問題 No.1162
ディープラーニングにおいて、ニューラルネットワークの層を深くしていくと、誤差逆伝播法の計算過程で入力層に近づくにつれて勾配が極端に小さくなり、パラメータがほとんど更新されなくなってしまう現象を【 】と呼ぶ。
【正解の解説】
勾配消失問題
勾配消失問題とは、層を重ねるほど学習のエネルギーである「勾配」が小さくなり、最初のほうの層まで情報が届かず学習が進まなくなる現象です。深いネットワークを作る際の大きな壁となります。
スポンサーリンク
【その他の選択肢の解説】
過学習
オーバーフィッティングとは、訓練データにこだわりすぎて、新しいデータに対する予測性能が落ちてしまう「過学習」のことです。
モード崩壊
モード崩壊とは、GANなどで生成器が特定のパターンしか出せなくなり、多様なデータが生成できなくなる現象のことです。
次元の呪い
次元の呪いとは、扱うデータの項目（次元）が増えるほど、必要なデータ量が爆発的に増え、計算が困難になる現象です。