問題 No.1404
ディープラーニングの学習において、各層への入力分布が学習の進行に伴って変化してしまう内部共変量シフトという問題がある。これを防ぐために導入された技術であり、ミニバッチごとに各層の出力を平均0、分散1となるように標準化し、その後学習可能なパラメータを用いてスケーリングとシフトを行う層を何と呼ぶか。
【正解の解説】
バッチ正規化
バッチ正規化は、層の途中でデータのばらつきを整えることで、学習をスムーズにする技術です。学習が速くなり、過学習も抑えられます。
スポンサーリンク
【その他の選択肢の解説】
レイヤー正規化
レイヤー正規化は、バッチ（データのかたまり）ではなく、個々のデータに対して層ごとに正規化を行う手法で、RNNなどでよく使われます。
グループ正規化
グループ正規化は、チャネル（データの種類）をグループ分けして正規化を行う手法です。バッチサイズが小さい時などに効果的です。
L2正則化
L2正則化は、重みが大きくなりすぎないように制限を加える手法で、過学習を抑えるために重みにペナルティを与えます。