問題 No.1182
リカレントニューラルネットワーク(RNN)の学習において、パラメータを更新するために用いられるアルゴリズムである。通常の順伝播型ネットワークの誤差逆伝播法(バックプロパゲーション)とは異なり、時系列データの流れを過去に遡るようにネットワークを時間方向に展開(アンロール)し、過去の各時点における誤差を逆方向に伝播させて勾配を計算する手法はどれか。
【正解の解説】
BPTT
時系列データを遡って、過去に情報を伝えていくために時間を展開して勾配を計算する学習手法です。
スポンサーリンク
【その他の選択肢の解説】
確率的勾配降下法(SGD)
最も基本的な最適化アルゴリズムで、少しずつパラメータを更新する手法です。
勾配クリッピング
学習時に勾配が極端に大きくならないよう、計算の制限をかける手法です。
ビームサーチ
探索木の中で、可能性が高いものだけを選んで効率的に解を探す手法です。