問題 No.575
バッチサイズが小さい場合にバッチ正規化(Batch Norm)の精度が低下する問題を解決するため、チャネルをグループ分けして正規化を行う手法はどれか。
【正解の解説】
Group Normalization
Group Normalizationは、チャネルをグループごとに分けて統計量を計算し正規化を行うことで、バッチサイズが小さい時でも安定して学習できるようにした手法です。
スポンサーリンク
【その他の選択肢の解説】
層正規化
層正規化(Layer Normalization)は、各層のニューロンごとに統計量を計算する手法で、主に時系列データなどで用いられます。
重み正規化
重み正規化は、ネットワークの各層における結合荷重(重み)自体を正規化する手法です。
局所応答正規化
局所応答正規化は、隣接するニューロン間の値を正規化することで、学習の安定化を狙った手法です。