SHAP

概要

SHAP（SHapley Additive exPlanations）は、ゲーム理論の Shapley 値に基づく特徴量重要度の計算手法です（Lundberg & Lee, 2017）。 各パラメータが予測値にどれだけ寄与したかを、すべての特徴量の組み合わせ順序の平均として厳密に定義します。

Importance チャートでは TreeSHAP（Lundberg et al., 2020）を使用し、Random Forest の各木で Shapley 値を厳密かつ効率的に計算します。 Tunny Dashboard は Shapley 値を自前で計算せず、LightGBM が提供する TreeSHAP 機能（predict_contrib）を利用しています（後述）。 グローバル重要度は、訓練データ（80% スプリット）の各サンプルの $|\phi_j(x)|$ を平均し、合計が 1 になるよう正規化します。

他手法との違い

比較軸	SHAP (TreeSHAP)	MDI	RF-ANOVA
理論的根拠	Shapley 公理（効率性・対称性・線形性・ダミー性）	不純度減少量の集計	葉ボックス上の分散分解（fANOVA）
測定対象	予測値への各パラメータの貢献量	学習中の分岐品質	学習後の葉ボックスに対する分散分解
バイアス	高カーディナリティバイアスなし	高カーディナリティ特徴量に過大評価傾向あり	交互作用を単一パラメータの主効果には帰属しない
計算コスト	木の葉数 × 深さ² に比例（効率的）	木構築と同等	木構築 + 木ごとの分散分解（葉数に依存）
局所解釈可能性	◎（サンプルごとの寄与量も計算可能）	✕（グローバルのみ）	✕（グローバルのみ）

---

数式

Shapley 値の定義

パラメータ $j$ の Shapley 値 $\phi_j(x)$ は、すべての部分集合 $S \subseteq F \setminus {j}$ に対して：

$$\phi_j(x) = \sum_{S \subseteq F \setminus {j}} \frac{|S|!,(|F| - |S| - 1)!}{|F|!} \left[f(S \cup {j}) - f(S)\right]$$

ここで：

• $F$：全特徴量の集合
• $f(S)$：特徴量集合 $S$ のみ既知とした場合の期待予測値

$$f(S) = \mathbb{E}\left[\hat{f}(x) \mid x_S\right]$$

Shapley 値は以下の公理を満たす唯一の解です：

• 効率性： $\sum_j \phi_j(x) = \hat{f}(x) - \mathbb{E}[\hat{f}]$
• 対称性：寄与が同等の特徴量には同じ値が割り当てられます
• 線形性：複数モデルの線形和への重要度は各モデルの重要度の和に等しいです
• ダミー性：予測に影響しない特徴量の重要度は 0

グローバル SHAP 重要度

訓練データ（80% スプリット、サイズ $N$）の各サンプル $x_i$ の局所 Shapley 値の絶対値を平均し、合計が 1 になるよう正規化します。 ここで $\phi_j(x_i)$ はアンサンブル全体（全木の合算値）としての寄与であり、木ごとに分解した値ではありません：

$$\tilde{\phi}j = \frac{\displaystyle\frac{1}{N} \sum{i=1}^{N} |\phi_j(x_i)|}{\displaystyle\sum_{j'} \frac{1}{N} \sum_{i=1}^{N} |\phi_{j'}(x_i)|}$$