こうばいぶーすてぃんぐ
勾配ブースティング
決定木を弱学習器に用い、誤差を勾配降下法で改善するように逐次学習する手法です。非常に高い予測精度を持ち、複雑なデータセットに対しても優れた性能を発揮するアルゴリズムです。
詳しい説明
ブースティングの一種で、モデルの予測誤差を改善するように勾配降下法を用いて逐次学習を行う手法です。通常は決定木を弱学習器として用います。高い精度を誇り、コンペティション等でも非常に高い性能を示すことが知られています。
試験で問われること
G検定（ジェネラリスト検定）
- ブースティングの応用であり、決定木を組み合わせる手法であること。
- 勾配降下法を使って誤差を最適化すること。
- 非常に高い精度を持つが、過学習に注意が必要なこと。