問題 No.562
RNNの勾配消失問題を解決するために導入された、情報を保持・忘却・更新するための「ゲート構造」を持つモデルはどれか。
【正解の解説】
LSTM
LSTMは、過去の情報を必要な分だけ持ち越し、不要な情報を忘れるための「ゲート（門）」を持つ構造です。長い文章でも意味のつながりを保持しやすく、勾配消失を防ぎます。
スポンサーリンク
【その他の選択肢の解説】
畳み込みニューラルネットワーク(CNN)
CNNは、主に画像処理で使われるモデルです。画像の特徴をフィルターで抽出して空間的な情報を捉えるのが得意で、言語処理が専門ではありません。
リカレントニューラルネットワーク(RNN)
RNNは、過去の入力を順次受け取る時系列データに適したネットワークです。しかし、過去の記憶を維持する力が弱く、長いデータではうまく学習できない弱点がありました。
敵対的生成ネットワーク(GAN)
GANは、偽物を作る生成者と、それを見破る識別者の二つが競い合うことで、より本物に近いデータを生成するモデルです。分類ではなくデータ生成に使われます。