問題 No.680
複数の決定木を組み合わせて強力なモデルを作るアンサンブル学習において、単にデータをランダムに抽出して木を作るだけでは、どの木も似たような構造になり過学習を防ぎきれないことがある。木同士の相関を下げるため、各分岐のタイミングで利用できる特徴量もランダムに絞り込んでから分割条件を決める手法はどれか。
【正解の解説】
ランダムフォレスト
ランダムフォレストは、多数の決定木を作り、それぞれの予測結果を多数決などで集約する手法です。各木を作る際に特徴量をランダムに制限することで、個々の木の個性を出し、モデル全体の精度を高めます。
スポンサーリンク
【その他の選択肢の解説】
勾配ブースティング
勾配ブースティングは、前の決定木が間違えた部分に注目して、次々に新しい木を作って間違いを修正しながら精度を高めていく手法です。
サポートベクターマシン
サポートベクターマシンは、データを分ける最適な境界線を見つける手法で、決定木のアンサンブルとは別の仕組みを持っています。
主成分分析
主成分分析は、データの多くの情報を、相関の高いものをまとめて少ない情報量に要約し、データの構造を把握するための分析手法です。