問題 No.593
ニューラルネットワークの層を深くした際、誤差逆伝播の過程で勾配が0に近づき、入力に近い層の学習がほとんど進まなくなる問題を何と呼ぶか。
【正解の解説】
勾配消失問題
勾配消失問題とは、層を深くするほど、誤差の情報が入力側の層に伝わる過程で極めて小さくなってしまい、うまく学習ができなくなる現象のことです。
スポンサーリンク
【その他の選択肢の解説】
過学習
過学習とは、訓練データに適合しすぎてしまい、新しい未知のデータに対する予測性能が低下してしまう状態のことです。
次元の呪い
次元の呪いとは、データの変数が多すぎると、データ間の距離が意味をなさなくなり、学習や検索が困難になる現象のことです。
デッドReLU
デッドReLUとは、活性化関数として使われるReLU関数において、出力が常に0になってしまい、そのニューロンが学習に貢献しなくなる状態のことです。