問題 No.802
多層ニューラルネットワークにおいてすべてのパラメータの勾配を効率よく計算するための手法がある。出力層における予測値と正解データの誤差から出発し微分の連鎖律を利用して出力層から入力層に向かって逆方向に偏微分を順次計算していくこのアルゴリズムはどれか。
【正解の解説】
誤差逆伝播法
誤差逆伝播法は、出力結果と正解の誤差を逆方向に伝え、どの層のパラメータをどれくらい調整すべきかを計算するアルゴリズムです。深層学習の学習の心臓部です。
スポンサーリンク
【その他の選択肢の解説】
順伝播法
順伝播法は、入力層から出力層へ向かって、データを順番に計算して結果を出すプロセスを指します。
最小二乗法
最小二乗法は、回帰分析などでデータの誤差の二乗の和を最小にする直線を求める手法であり、ネットワークの更新手法とは異なります。
勾配降下法
最急降下法は、誤差を減らすために、どの方向にパラメータを動かせばよいか決める手法です。誤差逆伝播法と組み合わせて使われます。