SHAP

機械学習モデルの予測結果に対して、どの特徴量がどれだけ寄与したかを説明するための手法です。ゲーム理論におけるシャープレイ値を基にしており、予測根拠の透明性を確保します。

ある特徴量を含めた場合と含めない場合の予測結果の差を計算し、すべての特徴量の組み合わせを考慮して公平な貢献度を算出します。モデル自体は変更せず、予測結果の解釈のみを目的として利用されます。

特徴量の貢献度を可視化することで、モデルのブラックボックス性を解消し、納得感のある判断を支援します。G検定では、説明可能なAIやAIの信頼性確保というテーマで重要となる手法です。