問題 No.714
学習中に各層の入力データの分布が大きく変化してしまうと学習が不安定になる(内部共変量シフト)。この問題に対処するため、ミニバッチごとに平均と分散を調整し、入力を一定の範囲内に収めることで学習速度を飛躍的に向上させた手法はどれか。
【正解の解説】
バッチ正規化
ミニバッチごとにデータの平均や分散を調整して、データの分布を一定に整えることで、学習を安定させ速く進める手法です。
スポンサーリンク
【その他の選択肢の解説】
勾配クリッピング
学習中に勾配の値をある範囲に制限し、計算が極端に大きくなって不安定になるのを防ぐ手法です。
重みの初期化
ニューラルネットワークのパラメータを学習開始時に適切な値に設定することです。
データ拡張
既存のデータを回転・反転させるなどして擬似的に増やすことで、学習量を増やす手法です。