問題 No.37
LSTMは従来のRNNが持つ勾配消失問題を解決するために考案されたが、長期間にわたって情報を保持し続けるためには、時間の経過とともに過去の有益な情報（誤差の勾配）が減衰（消失）したり、逆に爆発したりするのを内部で厳密に防ぐコアの仕組みが必要となる。LSTMブロックの中心に位置し、過去の記憶を一切減衰させることなく未来へそのまま伝播・ストックし続ける定数誤りカルーセルと呼ばれる記憶細胞はどれか。
【正解の解説】
CEC
CECは、過去の情報をそのままの状態で維持し、時間の経過による誤差の消失を防ぐための特別な記憶用細胞です。LSTMの核となる仕組みです。
スポンサーリンク
【その他の選択肢の解説】
LSTMブロック
LSTMブロックは、CECを含む構造全体の名称です。特定の記憶細胞そのものを指す用語はCECです。
Transformer
Transformerは、アテンションという仕組みを用いて文脈を理解する、現在のLLMの基盤となるモデルです。
CTC
CTCは、音声認識などで入力と出力の長さが一致しない場合に用いられる損失関数の一種です。