問題 No.1222
ディープラーニングにおいて、ネットワークの層を非常に深くした際、誤差逆伝播法で入力層に近づくにつれて勾配（傾き）の値が掛け算の繰り返しによって極端に小さくなってしまい、浅い層のパラメータがほとんど学習されなくなってしまう現象を何というか。
【正解の解説】
勾配消失問題
勾配消失問題は、ネットワークが深くなるほど誤差の情報が小さくなって消えてしまい、浅い層が学習できなくなる現象です。結果として、深いモデルがうまく育てられなくなる原因となります。
スポンサーリンク
【その他の選択肢の解説】
勾配爆発問題
勾配爆発問題は、学習中の勾配が計算の過程でどんどん大きくなり、値が発散してしまう現象です。モデルが非常に不安定になり、学習が全く進まなくなることがあります。
過学習
過学習は、学習データに対しては完璧に答えるようになる一方で、新しい未知のデータには対応できなくなる現象です。教科書を丸暗記しただけで、応用が利かない状態に似ています。
次元の呪い
次元の呪いは、データを扱う変数の数（次元数）が増えるほど、必要なデータ量が爆発的に増えてしまい、解析が困難になる現象です。データが増えるほど、逆に扱いが難しくなる逆説的な問題です。