問題 No.1194
ニューラルネットワークの学習において、出力層で計算された予測値と正解ラベルの間の誤差を、出力層から入力層に向かって逆方向に伝播させ、各層のパラメータにおける勾配を効率的に計算する手法について、不適切な説明はどれか。
【正解の解説】
入力層から出力層へデータを流す順伝播の計算を行う前に、まずこの手法を実行して初期パラメータを決定する。
誤差逆伝播法は学習を行うための「答え合わせ」の手順であり、順伝播で予測を出してからでないと使えません。パラメータを決める前に行う手法ではありません。
スポンサーリンク
【その他の選択肢の解説】
連鎖律を利用して各層の勾配を順次計算する。
誤差逆伝播法は、微分の連鎖律（合成関数の微分）を使い、後ろから前へと順番に各層の影響度（勾配）を伝えていきます。
層が非常に深くなると、勾配が途中で消失したり爆発したりする原因になることがある。
層が深くなると、勾配を掛ける回数が増えるため、値がどんどん小さくなったり大きくなったりして学習が不安定になることはよくあります。
各パラメータが全体の誤差にどれだけ影響を与えているかを、すべてのパラメータについて同時に効率よく求めることができる。
誤差逆伝播法は、すべての重みに対して、一度の計算で効率的に「どれだけ変更すべきか（勾配）」を求められるのが最大の利点です。