問題 No.1348
ディープラーニングの学習において、各隠れ層への入力分布が学習過程で変化してしまう内部共変量シフトを抑制する手法がある。この手法では、データの小集団ごとに平均と分散を計算して正規化を行うが、単に標準化するだけでなく、その後に学習可能な二つのパラメータを用いてどのような数理的変換を行うか。
【正解の解説】
スケール変換とシフト変換
スケール変換とシフト変換は、正規化で揃えたデータに対し、学習を通じて最適な広がり具合（スケール）と位置のズレ（シフト）を調整する処理です。これにより、モデルがより柔軟に学習できるようになります。
スポンサーリンク
【その他の選択肢の解説】
非線形な対数変換
非線形な対数変換は、データの値を対数という計算を使って変形する手法です。データの偏りが極端に大きい場合などに使われますが、正規化の文脈での標準的な変換ではありません。
次元圧縮と主成分の抽出
次元圧縮と主成分の抽出は、情報を減らして重要度の高い要素を取り出す手法（主成分分析など）です。内部共変量シフトを抑える正規化処理とは目的が異なります。
離散的な整数値へのマッピング
離散的な整数値へのマッピングは、数値を飛び飛びのカテゴリなどに分ける処理です。正規化はデータを滑らかに扱いやすくするための手法であり、整数化とは目的が相反します。