勾配ブースティング (Gradient Boosting)
▼ ざっくり言うと
小さな決定木をたくさん作って合成する、強力な機械学習手法です。
▼ もうちょっと詳しく
単独では弱い決定木をたくさん作って、前の決定木の間違いを次の決定木が補正する、という流れで段階的に強くしていく手法です。チームで補い合うスタイル。
実装としてはXGBoost、LightGBM、CatBoostといったライブラリが超有名で、Kaggle(機械学習コンペ)では長年の優勝請負人として君臨してきました。ディープラーニングが派手な領域以外では、いまもここが鉄板です。
▼ ちょっとだけ深い話
テーブルデータ(表形式のデータ)に対しては、ニューラルネットより勾配ブースティングのほうが強いケースが今も多いです。地味だけど現役。
地味な手法のままKaggle王者を続けてきた、玄人好みの存在です。
あなたの読了: 0 / 388 語

