問題 No.904
深層ニューラルネットワークの学習において、誤差逆伝播法を用いて層を遡る際、勾配の値が掛け算の連続により指数関数的に巨大化し、パラメータの数値が飽和して学習が破綻してしまう現象を【 】という。
【正解の解説】
勾配爆発問題
勾配爆発問題とは、AIが学習する際、数値の掛け合わせが繰り返されることで計算結果が際限なく巨大化し、AIのモデルが数値的に壊れて学習ができなくなる現象を指します。
スポンサーリンク
【その他の選択肢の解説】
勾配消失問題
勾配消失問題とは、AIが学習する際に、重要な情報が層を遡る過程で薄まりすぎてしまい、結果として学習が進まなくなってしまう現象のことです。
次元の呪い
次元の呪いとは、データの種類や項目(次元数)が増えるほど、必要なデータ量が指数関数的に増大し、AIの学習が非常に困難になる現象を指します。
内部共変量シフト
内部共変量シフトとは、学習の過程でネットワーク内の各層の入力データの分布が大きく変化してしまい、学習が不安定になる現象のことです。