問題 No.729
ディープラーニングの学習において、ネットワークの層が深くなるほど出力層側からの誤差情報が減衰し、入力層に近い重みが適切に更新されなくなる現象はどれか。
【正解の解説】
勾配消失問題
勾配消失問題とは、誤差を後ろの層へ伝える際に勾配がどんどん小さくなり、入力層に近い層ではほとんど重みが更新されなくなってしまう現象のことです。
スポンサーリンク
【その他の選択肢の解説】
次元の呪い
次元の呪いとは、データの次元数(特徴の数)が増えるほど、データ間の距離が遠くなり、必要なデータ量が指数関数的に爆発してしまう現象のことです。
内部共変量シフト
内部共変量シフトとは、ニューラルネットワークの層が進むにつれて、各層への入力データの分布が変化し、学習が安定しなくなる現象のことです。
勾配爆発問題
勾配爆発問題とは、誤差を伝播させる際に勾配がどんどん大きくなり、重みが発散して学習が破綻してしまう現象のことです。