問題 No.948
シグモイド関数を隠れ層の活性化関数として深く重ねた際に発生する勾配消失問題が、モデルの学習に与える影響として正しいものはどれか。
【正解の解説】
出力層に近い層の更新は進むが入力層に近い層の重みがほとんど更新されない
勾配消失問題とは、学習に必要な修正情報(勾配)が、層を遡るにつれて消えてしまう現象です。特に、端の層(入力に近い層)に情報が届かないため、学習が停滞してしまいます。
スポンサーリンク
【その他の選択肢の解説】
重みが急速に発散して学習が破綻する
重みが急速に発散して学習が破綻するのは、勾配消失ではなく勾配爆発という現象です。学習率が大きすぎる場合などに起こりやすく、値が無限大に膨れ上がってしまいます。
ネットワークの重みが全てゼロになり推論不能になる
重みがすべてゼロになるのは、初期値の与え方などが原因であり、勾配消失問題特有の直接的な現象ではありません。
学習データのノイズを過剰に拾い上げてしまう
学習データのノイズを過剰に拾い上げてしまうのは過学習という現象であり、モデルが複雑すぎてデータを暗記してしまうことで起こります。