[論文レビュー] Faith-Shap: The Faithful Shapley Interaction Index

Che-Ping Tsai, Chih‐Kuan Yeh+1 more|arXiv (Cornell University)|Mar 2, 2022

Bayesian Modeling and Causal Inference被引用数 20

ひとこと要約

この論文は、Faithful Shapley Interaction インデックス（Faith-Shap）を定義し、Shapley値を特徴量の相互作用へと、忠実な線形近似を通じて拡張し、自然な相互作用公理の下で、効率的な計算と性質を提供します。

ABSTRACT

Shapley values, which were originally designed to assign attributions to individual players in coalition games, have become a commonly used approach in explainable machine learning to provide attributions to input features for black-box machine learning models. A key attraction of Shapley values is that they uniquely satisfy a very natural set of axiomatic properties. However, extending the Shapley value to assigning attributions to interactions rather than individual players, an interaction index, is non-trivial: as the natural set of axioms for the original Shapley values, extended to the context of interactions, no longer specify a unique interaction index. Many proposals thus introduce additional less ''natural'' axioms, while sacrificing the key axiom of efficiency, in order to obtain unique interaction indices. In this work, rather than introduce additional conflicting axioms, we adopt the viewpoint of Shapley values as coefficients of the most faithful linear approximation to the pseudo-Boolean coalition game value function. By extending linear to $\ell$-order polynomial approximations, we can then define the general family of faithful interaction indices. We show that by additionally requiring the faithful interaction indices to satisfy interaction-extensions of the standard individual Shapley axioms (dummy, symmetry, linearity, and efficiency), we obtain a unique Faithful Shapley Interaction index, which we denote Faith-Shap, as a natural generalization of the Shapley value to interactions. We then provide some illustrative contrasts of Faith-Shap with previously proposed interaction indices, and further investigate some of its interesting algebraic properties. We further show the computational efficiency of computing Faith-Shap, together with some additional qualitative insights, via some illustrative experiments.

研究の動機と目的

• 説明可能性AIにおいて、個々の特徴量を超える特徴量間の寄与度を明らかにする必要性を動機づける。
• Shapley風の忠実性を高次の相互作用へ拡張することで、Faith-Interactionフレームワークを導入する。
• 相互作用公理の下で、ユニークな Faithful Shapley (Faith-Shap) および Faithful Banzhaf (Faith-Banzhaf) 指数を導出する。
• Faith-Shapを既存の相互作用指標と比較し、代数的性質と計算効率を探る。

提案手法

• 説明を、v(S)をオーダーellまでの相互作用項の和で近似する重み付き回帰としてモデル化する。
• 貢献を表すモビウス変換 a(v, S) を用い、相互作用指標の閉形式表現を導出する。
• Faith-Interaction 指数を、適切な重み関数 μ(S) を用いた加重最小二乗問題の解として定義する。
• Faith-Interaction 指数が、適切な μ(S) の下で相互作用線形性、対称性、ダミー公理を満たすことを証明する（有限/∞ 制約あり）。
• 相互作用効率性公理を課すことで Faith-Shap に特化し、特定の μ(S) と閉形式式（式16）を得る。
• Faith-Shap が ell = 1 のとき標準の Shapley 値へ縮退すること、および Faith-Banzhaf（ellベース）や他の指標との関係を論じる。

実験結果

リサーチクエスチョン

• RQ1 自動翻訳を避けるために自然公理を保持しつつ、Shapley風の寄与を個々の特徴量から特徴量間の相互作用へ一意に拡張するにはどうすればよいか？
• RQ2 忠実性ベースの代替が、線形性、対称性、ダミー、効率性を満たす唯一の相互作用指標（Faith-Shap）を生み出すことができるか？
• RQ3 Faithful Shapley および関連指標を、理論と計算の面で既存の相互作用指標とどう比較できるか？
• RQ4 選択した次数までの相互作用を推定する際の Faith-Shap の代数的特性と実用的な計算上の利点は何か？

主な発見

• 相互作用線形性、対称性、ダミー、効率性を、忠実に構築されたフレームワークと組み合わせることで、ユニークな Faithful Shapley Interaction インデックス（Faith-Shap）を得る。
• Faith-Interaction クラスは、重み付け関数が有限な場合にモビウス変換と特徴出現行列（p(S)）を用いた閉形式解を与える。
• Faith-Shap は Shapley 値を相互作用へ一般化し、最大相互作用次数が1のとき標準の Shapley 値へ縮退する。
• 一般化した2-効率性の下で補完的な Faith-Banzhaf 指数が生じ、独自の閉形式とモビウス変換との関係を持つ。
• このフレームワークは、加重線形回帰形式による計算効率の高い推定を可能にし、基数指標や多項式拡張に関連する代数的特性を提供する。