決定木

データを条件分岐によって分類や回帰を行う、木構造の機械学習アルゴリズムです。質問に対する回答に応じて枝分かれし、最終的に予測値やクラスを導き出します。判断のプロセスが視覚的に分かりやすいという特徴があります。

仕組みとしては、与えられたデータから最も効率よくデータを分割できる質問を順次選択していきます。この分割を繰り返すことで、予測の精度を高めていきます。決定木単体でも強力ですが、複数の決定木を組み合わせたランダムフォレストや勾配ブースティングなどのアンサンブル学習の基礎にもなっています。

G検定では、決定木そのものの仕組みだけでなく、アンサンブル学習の文脈で問われます。解釈性が高いモデルとして、なぜその予測結果になったのかを説明する必要がある場面で適していることや、木が深くなりすぎると過学習しやすいため剪定が必要である点が重要です。