問題 No.1388
ディープラーニングにおいて、層が深くなると各層の入力データの分布が学習の進行とともに変化し、学習が不安定になる（内部共変量シフト）。これを防ぐため、ネットワークの各層の直前（または直後）において、ミニバッチごとの入力データの分布が平均0、分散1になるように数理的に変換を施す手法はどれか。
【正解の解説】
バッチ正規化（Batch Normalization）
バッチ正規化（Batch Normalization）とは、層の入力をミニバッチ単位で平均0、分散1になるように調整する手法です。これにより、各層でデータの分布が極端に偏ることを防ぎ、学習を安定かつ高速に進めることができます。
スポンサーリンク
【その他の選択肢の解説】
重みの初期化（Heの初期値など）
重みの初期化（Heの初期値など）とは、ニューラルネットワークの学習開始時に重みの値を適切に設定することで、学習が極端に進みにくくなるのを防ぐための工夫です。
ドロップアウト
ドロップアウトとは、学習中にニューロンをランダムに無効化することで、特定の情報に過度に依存する「過学習」を防ぎ、モデルの柔軟性を高めるための手法です。
勾配クリッピング
勾配クリッピングとは、学習時に計算される勾配（更新の方向と大きさ）がある一定の大きさを超えた場合に、それを強制的に制限することで、数値が大きくなりすぎて学習が崩壊するのを防ぐ手法です。