問題 No.1004
バッチ正規化と同様に、ミニバッチのサイズに依存せず、各層のニューロンごとの統計量を用いて正規化を行う手法を【 】と呼ぶ。
【正解の解説】
レイヤー正規化
レイヤー正規化とは、ミニバッチの数に関わらず、ある一つの層（レイヤー）内の全てのニューロンの数値の平均やばらつきを揃えて計算を安定させる手法です。
スポンサーリンク
【その他の選択肢の解説】
インスタンス正規化
インスタンス正規化とは、各画像など個々のデータ（インスタンス）ごとに、その内部での統計量を使って正規化を行う手法です。主にスタイル変換などで利用されます。
グループ正規化
グループ正規化とは、層内のニューロンをいくつかのグループに分け、そのグループごとの統計量を用いて正規化を行う手法です。ミニバッチサイズが小さくても安定した学習が可能です。
重み正規化
重み正規化とは、ネットワークのニューロン同士をつなぐ「重み」そのものの大きさを一定に制限することで、学習を安定させる手法のことです。