[論文レビュー] Understanding Interventional TreeSHAP : How and Why it Works

Gabriel Laberge, Yann Pequignot|arXiv (Cornell University)|Sep 29, 2022

Explainable Artificial Intelligence (XAI)被引用数 7

ひとこと要約

本稿は、介入的 TreeSHAP がどのように機能するか、そしてなぜ機能するかを初めて形式的数学的証明によって示し、木アンサンブルモデルのシャープレー値を用いた解釈の正しさを裏付けている。この証明は、シャープレー＝テイラーインデックスおよびワンホット符号化された特徴へも拡張可能であり、機械学習モデルの解釈可能性の向上とより広範な応用を可能にする。

ABSTRACT

Shapley values are ubiquitous in interpretable Machine Learning due to their strong theoretical background and efficient implementation in the SHAP library. Computing these values previously induced an exponential cost with respect to the number of input features of an opaque model. Now, with efficient implementations such as Interventional TreeSHAP, this exponential burden is alleviated assuming one is explaining ensembles of decision trees. Although Interventional TreeSHAP has risen in popularity, it still lacks a formal proof of how/why it works. We provide such proof with the aim of not only increasing the transparency of the algorithm but also to encourage further development of these ideas. Notably, our proof for Interventional TreeSHAP is easily adapted to Shapley-Taylor indices and one-hot-encoded features.

研究の動機と目的

• 介入的 TreeSHAP の正しさを、先行研究における形式的根拠の欠如に応じて、厳密な数学的証明を提供すること。
• 理論的基礎とその背後にある仮定を明らかにすることで、TreeSHAP の透明性と信頼性を高めること。
• 証明フレームワークが、シャープレー＝テイラーインデックスなどの他のゲーム理論的帰属割り当て手法へ容易に適応可能であることを示すこと。
• 現実の機械学習パイプラインで一般的なワンホット符号化されたカテゴリカル特徴を処理できるように、TreeSHAP を拡張すること。現行の SHAP 実装ではこれらに対応していない。
• 教育的および研究的応用を支援するため、理論的証明と整合性を持つ C++ による実装を提供し、教育やさらなる開発に役立てる。

提案手法

• 協力的ゲーム理論を用いた介入的 TreeSHAP の形式的証明により、介入的（do-計算）仮定の下で、木アンサンブルに対する正しいシャープレー値が計算されることを示した。
• 決定木を走査し、特徴の部分集合ごとの寄与度を蓄積することで、シャープレー値を再帰的に計算するアルゴリズムの導出。
• ゲーム理論的価値関数を再定義することで、シャープレー＝テイラーインデックスへの証明の拡張。これにより、高次元の特徴相互作用を捉えることができる。
• ワンホット符号化された特徴を連続空間にマップする特徴埋め込みフレームワークの導入。これにより、Partition-TreeSHAP を用いた一貫性のある帰属割り当てが可能になる。
• 埋め込み座標から元の特徴へと写像する全射写像 𝒫 の定義。これにより、帰属割り当てを元の特徴空間に再集約できる。
• 理論的証明と同一の表記法を用いた C++ による Taylor-TreeSHAP および Partition-TreeSHAP の実装。Python ラッピングを併用し、明確さと教育的利用を目的としている。

実験結果

リサーチクエスチョン

• RQ1 介入的 TreeSHAP の正しさを、ゲーム理論的原則を用いて形式的に証明する方法は何か？
• RQ2 介入的 TreeSHAP の証明フレームワークは、高次元特徴相互作用を捉えるシャープレー＝テイラーインデックスの計算に適応可能か？
• RQ3 TreeSHAP は、正確な帰属割り当てを保ちつつ、ワンホット符号化されたカテゴリカル特徴をどのように拡張できるか？
• RQ4 TreeSHAP の再帰的集約と完全なシャープレー値計算との間の等価性の理論的根拠は何か？
• RQ5 理論的知見は、再利用可能で教育的かつ拡張可能な実装にどのように翻訳できるか？

主な発見

• 本稿は、介入的仮定の下で、木アンサンブルモデルに対するシャープレー値を正しく計算する介入的 TreeSHAP の完全な形式的証明を初めて提供した。
• 証明構造は、シャープレー＝テイラーインデックスへ直接移行可能であり、高次元特徴相互作用効果の効率的計算を可能にする。
• 新規の埋め込みおよび帰属割り当て集約フレームワークにより、ワンホット符号化された特徴を処理できるようになり、TreeSHAP は二値または数値特徴を超えて拡張された。
• 理論的分析と同一の表記法を用いた C++ 実装（Partition-TreeSHAP および Taylor-TreeSHAP）が提供され、一貫性と教育的明確さを確保した。
• 理論的フレームワークにより、連続的およびワンホット符号化された特徴の両方を含む混合特徴タイプに対しても、モデル再訓練を必要とせずに正確な帰属割り当てが可能である。
• 結果は、TreeSHAP の効率性と正しさが、しっかりしたゲーム理論的基盤に裏付けられており、信頼できる解釈ツールとしての使用を支持していることを検証した。