問題 No.1376
RNNの課題である勾配消失問題を解決するために考案されたLSTM(Long Short-Term Memory)には、複数の「ゲート」と呼ばれる機構が備わっている。このうち、過去のセル状態(記憶)の情報をどれだけ次のステップに引き継ぐか(あるいは捨てるか)を、シグモイド関数を用いて数理的に制御するゲートの名称はどれか。
【正解の解説】
忘却ゲート
忘却ゲートは、過去に記憶した情報のうち、もはや不要になった古い情報をどれだけ捨てるか(忘れさせるか)を判断し制御します。
スポンサーリンク
【その他の選択肢の解説】
入力ゲート
入力ゲートは、現在の新しい入力情報のうち、どれだけを記憶として新しく取り込むかを決定するゲートです。
出力ゲート
出力ゲートは、現在の記憶の中から、次のステップへどれだけの情報を出力するかを調整するゲートです。
更新ゲート
更新ゲートは、主にGRU(Gated Recurrent Unit)などで用いられる概念であり、LSTMにおいて情報を保持するか判断するのは主に忘却ゲートの役割です。