問題 No.974
バッチ正規化の推論時における挙動として正しいものはどれか。
【正解の解説】
学習時に蓄積された移動平均などの統計量を用いて固定値を適用する
推論時は、学習中にあらかじめ計算・記録しておいた全体的な平均や分散（移動平均など）を固定値として使うことで、安定した結果を出せるようにします。
スポンサーリンク
【その他の選択肢の解説】
学習時と同様に毎回ミニバッチ内の平均と分散を計算する
学習時はデータが少量（ミニバッチ）のため平均と分散が計算できますが、推論時は1つのデータだけを入力する場合もあり、毎回計算すると予測が安定しません。
重みを強制的にゼロにリセットする
重みを強制的にゼロにすると、学習した内容がすべて消えてしまい、正しい予測ができなくなります。
活性化関数をシグモイド関数に切り替える
バッチ正規化と活性化関数の種類は別物であり、推論時にわざわざシグモイド関数へ切り替えることはありません。