問題 No.21
説明変数の数が非常に多い線形回帰モデルにおいて、予測に全く貢献していない不要な特徴量の重み（係数）を完全に「ゼロ」に落とし込み、実質的な特徴量選択（スパース化）を自動的に行いたい。この効果を得るために、モデルの損失関数（誤差）に対して、パラメータの「絶対値の和」をペナルティ項として追加する正則化手法はどれか。
【正解の解説】
L1正則化
L1正則化は、重みの絶対値の和をペナルティとして加える手法です。一部の不要な特徴量の重みをきれいに「ゼロ」に落とし込めるため、実質的な特徴量選択の効果が得られます。
スポンサーリンク
【その他の選択肢の解説】
L2正則化
L2正則化は、重みの2乗の和をペナルティとして加える手法です。重みを小さくして過学習を抑えますが、ゼロにはしにくい性質があります。
リッジ回帰
リッジ回帰は、L2正則化を用いた線形回帰のことです。特徴量を残しつつ重みを調整するため、今回の「ゼロに落とす」という目的には当てはまりません。
ドロップアウト
ドロップアウトは、学習中にランダムにニューロンを無効にする手法です。主にニューラルネットワークの過学習を抑制するために使われる手法です。