問題 No.170
多層ニューラルネットワークの学習(誤差逆伝播法)において、出力層で発生した予測誤差の情報をもとに、入力層側に向かって各層の重み(パラメータ)の修正値を順次計算していきたい。このとき、微分における「合成関数の微分公式」を利用して、前の層の勾配に次の層の局所的な微分値を掛け算しながら芋づる式に遡って伝播させていく計算ルールを何というか。
【正解の解説】
連鎖律
複雑な関数を微分する際、外側の関数と内側の関数に分けて、それぞれの変化率を掛け算することで、全体の変化を求める計算ルールです。ディープラーニングの誤差逆伝播に不可欠です。
スポンサーリンク
【その他の選択肢の解説】
最小二乗法
回帰分析において、予測値と実際の値との差の二乗の合計が最小になるようにモデルを調整する、伝統的な統計学的手法です。
最大尤度推定
手元にあるデータが、ある統計モデルから得られる確率が最大になるようにパラメータを推測する方法です。
主成分分析
たくさんの変数がある複雑なデータを、情報をできるだけ失わずに少ない変数にまとめることで、データの全体像を把握しやすくする手法です。