問題 No.1159
機械学習における線形回帰の過学習を防ぐ手法として、損失関数にパラメータの絶対値の和をペナルティとして加えるラッソ回帰が用いられる。このラッソ回帰の特徴や、どのような場面で使われるかに関する記述として、最も不適切なものはどれか。
【正解の解説】
パラメータの二乗和をペナルティとして加えることで、相関の高い複数の特徴量がある場合にそれらの重みを均等に縮小させる。
これはラッソ回帰ではなく「リッジ回帰」の特徴です。重みの二乗和を用いることで、似た特徴量同士を平均化して縮小します。
スポンサーリンク
【その他の選択肢の解説】
不要な特徴量の重みを完全にゼロにする性質があるため、特徴量選択を自動で行いたい場面で有効である。
ラッソ回帰の大きな特徴です。不要な変数の重みをゼロにすることで、どの情報が重要かを選び出す機能が備わっています。
高次元で特徴量の数がサンプルの数よりも非常に多いデータセットであっても、過学習を効果的に抑制して予測モデルを安定させることができる。
多くのデータや特徴量がある状況でも、モデルを単純化することで過学習を抑え、安定した予測結果を出すことができます。
ハイパーパラメータである正則化の強さを大きく設定するほど、より多くの特徴量の係数がゼロになり、モデルの構造がシンプルになる。
正則化というブレーキを強くかけるほど、より多くの変数の影響を無視するようになるため、モデルはよりシンプルになります。