問題 No.1161
アンサンブル学習の手法の一つである勾配ブースティングは、高い予測精度を持つことから実務で広く使われている。この手法の仕組みや適用場面に関する記述として、最も不適切なものはどれか。
【正解の解説】
個々の決定木を完全に独立して構築し、それらの予測結果の多数決や平均を取ることで並列に一斉に学習を進めることができる。
これは「バギング」などの説明です。勾配ブースティングはモデルを順番に作るため、一斉に並列して学習させるのではなく、前の結果を受けてから次を作成する直列的なプロセスです。
スポンサーリンク
【その他の選択肢の解説】
予測性能がそれほど高くない弱い学習器を、前の学習器の予測誤差を修正するように逐次的に追加していく仕組みである。
勾配ブースティングでは、最初に作ったモデルが間違えた部分を、次のモデルが重点的に学習するというように、前の失敗を補う形で順番に学習を積み重ねていきます。
過学習を起こしやすいという性質があるため、学習率や木の最大深度などのハイパーパラメータを適切にチューニングする必要がある。
勾配ブースティングは非常に優秀ですが、学習を重ねすぎると現在のデータにこだわりすぎて過学習しやすいため、パラメータを調整してブレーキをかけることが重要です。
テーブルデータに対して非常に高い予測精度を発揮しやすく、画像や音声以外のデータ分析で多用される。
数値やカテゴリが並んだ表形式（テーブルデータ）において、勾配ブースティングはトップクラスの精度を誇ります。Excelのようなデータ分析の現場で非常に重宝されます。