[論文レビュー] SHAP for additively modeled features in a boosted trees model

M. Mayer|arXiv (Cornell University)|Jul 29, 2022

Model Reduction and Neural Networks被引用数 8

ひとこと要約

本稿では、木の深さ制約または相互作用制約によって特徴量が加法的にモデル化される勾配ブースティング木モデルにおいて、SHAPの依存プロットが垂直方向のシフトを除いて数学的に部分的依存プロット（PDP）と等価であることを示している。この等価性により、SHAPプロットはceteris paribus効果として解釈可能となり、特に特徴量が加法的にモデル化される場合に、解釈性を損なわずにSHAPプロットをグローバルモデル解釈に直接利用できるようになる。

ABSTRACT

An important technique to explore a black-box machine learning (ML) model is called SHAP (SHapley Additive exPlanation). SHAP values decompose predictions into contributions of the features in a fair way. We will show that for a boosted trees model with some or all features being additively modeled, the SHAP dependence plot of such a feature corresponds to its partial dependence plot up to a vertical shift. We illustrate the result with XGBoost.

研究の動機と目的

• 勾配ブースティング木モデルにおける加法的にモデル化された特徴量のSHAP依存プロットと部分的依存プロット（PDP）の関係を調査すること。
• 加法的モデル化条件下でSHAP依存プロットがPDPの有効かつ解釈可能な代替手段として機能するかどうかを検証すること。
• XGBoostと実世界の保険データを用いて、理論的等価性が実際の設定でどのように成立するかを検証すること。
• 加法的モデルにおいてSHAP依存プロットをceteris paribus効果プロットとして解釈する際の適切な状況と方法についての指針を提供すること。

提案手法

• シャープリー値と協力ゲーム理論を用いた理論的分析により、加法的特徴量モデル化下でのSHAP値とPDPの数学的等価性を確立する。
• XGBoostモデルにおけるSHAP値の効率的計算のため、TreeSHAPアルゴリズムを適用する。
• 特徴量を加法的にモデル化するため、max_depth = 1（完全に加法的）または相互作用制約を適用（部分的に加法的）することで、特定の特徴量に相互作用効果が生じないよう制御する。
• OpenML（ID 42876）の保険請求データセットのサブセットを用いて、SHAP依存プロットとPDPの実証的比較を行う。
• 直接的な視覚的および定量的比較が可能となるよう、SHAPプロットをPDPに合わせて垂直方向にシフトさせる。
• 最終的な請求額をモデル化するため、XGBoostにガンマ回帰（対数リンク）を適用し、80％のデータでモデル学習と解釈を行い、1,000行のサンプルで評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 勾配ブースティング木モデルにおける特徴量のSHAP依存プロットが、その部分的依存プロットと一致する条件は何か？
• RQ2 勾配ブースティング木モデルで特徴量が加法的にモデル化されている場合、SHAP依存プロットはceteris paribus効果プロットとして解釈可能か？
• RQ3 相互作用制約や木の深さ制限の存在が、SHAPプロットとPDPプロットの関係にどのように影響するか？
• RQ4 加法的モデルにおいて、SHAP依存プロットはPDPの解釈性をどの程度保持しているか？

主な発見

• 勾配ブースティング木モデルで加法的にモデル化された特徴量において、SHAP依存プロットは垂直方向のシフトを除いて数学的に部分的依存プロット（PDP）と等価である。
• 完全に加法的なモデル（max_depth = 1）では、すべての特徴量のSHAP依存プロットが対応するPDPと完全に平行であり、理論的等価性が確認された。
• 相互作用制約を適用した部分的に加法的なモデルでは、加法的にモデル化された特徴量（DateNum および Female）のみが、SHAPプロットがPDPと平行であるのに対し、他の特徴量は散らかったパターンを示しており、相互作用効果が存在することを示している。
• SHAPプロットとPDPプロットの間の垂直シフトは一貫しており、効果の形状や解釈に影響を及えないため、SHAPプロットを直接解釈可能な効果可視化として使用できる。
• 性別が「女性」であることが、対数期待最終請求額に与える効果は+0.32（8.85 – 8.53）と推定され、加法的モデル下でSHAPプロットとPDPプロットの両方で一貫した結果が得られた。
• SHAPプロットとPDPプロットの一致は、真正に加法的な特徴量に限って成立する。相互作用効果を持つ特徴量では、SHAP依存プロットに分散するパターンが現れ、非加法的行動を示している。