問題 No.832
長文の機械翻訳や自然な音声合成など、過去に入力された遠い情報を長く記憶しておく必要があるタスクにおいて、従来のRNNの欠点を補うために導入されたモデルはどれか。
【正解の解説】
LSTM
LSTM(Long Short-Term Memory)は、過去の長い情報の流れを制御して保持できるRNNの拡張モデルです。門(ゲート)という仕組みにより、必要な情報を記憶し、不要なものを捨てることで、文脈の維持が可能です。
スポンサーリンク
【その他の選択肢の解説】
GRU
GRU(Gated Recurrent Unit)は、LSTMを簡略化したモデルで、長期間の記憶を保持しつつ計算効率を高めたものです。RNNの弱点である、遠い過去の情報を忘れてしまう問題を改善しています。
オートエンコーダ
Autoencoderは、データを一度圧縮してから元の形に復元する学習手法です。画像や音声のノイズ除去や特徴抽出に使われますが、時系列情報の長期記憶を目的としたモデルではありません。
sequence-to-sequence
Seq2Seq(Encoder-Decoder)は、入力文を別の文に変換する枠組みのことです。RNNそのものの記憶の問題を解決する役割というよりは、入力と出力の構造を表す言葉です。