問題 No.519
バッチ正規化がバッチ全体を対象にするのに対し、スタイル変換モデルなどで有効な、各サンプルの各チャンネルごとに正規化を行う手法はどれか。
【正解の解説】
Instance Normalization
Instance Normalizationは、各サンプルの各チャンネルごとに平均と分散を求めて正規化します。スタイルの変換など、個別のデータの特徴を強調したい場合に有効です。
スポンサーリンク
【その他の選択肢の解説】
Layer Normalization
Layer Normalizationは、バッチではなく「一つのデータの中」のすべての特徴量を対象に正規化します。時系列データやRNNでよく使われる手法です。
Weight Normalization
Weight Normalizationは、ニューロンの重み（Weight）自体を正規化することで、学習を安定させようとする手法です。計算コストを抑えつつ学習効率を高める効果があります。
Batch Normalization
Batch Normalizationは、学習するバッチ全体で平均と分散を揃える手法です。学習を高速・安定化させる現在のディープラーニングの標準的な技術の一つです。