問題 No.457
学習時に各層の中間出力分布をミニバッチ単位で平均0、分散1に揃えることで、学習の安定化と高速化を図る理由はどれか。
【正解の解説】
学習率を大きく設定できるようにするため
学習率を大きく設定できるようにするためとは、データ分布を整えることで、学習の過程で値が極端に変化するのを防ぎ、より大胆なステップで学習を進めても安定して結果が得られるようにする工夫のことです。
スポンサーリンク
【その他の選択肢の解説】
過学習を完全に防ぐため
過学習を完全に防ぐためとは、特定のデータに最適化しすぎるのを抑える効果はありますが、それだけで過学習を完全に除去できるわけではありません。
ニューロンの無効化
ニューロンの無効化とは、学習時に一部の接続をランダムに切ることで特定の情報への依存を防ぐドロップアウトという別の手法に関連する考え方です。
勾配をゼロにするため
勾配をゼロにするためとは、勾配をゼロにしてしまうと学習が進まなくなるため、データ分布を安定させて適切な勾配を維持することが目的となります。