[論文レビュー] X-SHAP: towards multiplicative explainability of Machine Learning

Luisa Bouneder, Yannick Léo+1 more|arXiv (Cornell University)|Jun 8, 2020

Explainable Artificial Intelligence (XAI)参考文献 21被引用数 5

ひとこと要約

X-SHAPは、乗法的特徴寄与を用いた機械学習予測の説明のためのモデルに依存しない手法を導入し、SHAPの加法的フレームワークを拡張して乗法的相互作用を捉えるものである。実世界のデータセットを用いた理論的・実証的検証が行われ、保険やバイオメディスインの分野のように乗法的関係が本質的である分野において、分野の直感と一貫性を示し、解釈性が優れていることが示された。

ABSTRACT

This paper introduces X-SHAP, a model-agnostic method that assesses multiplicative contributions of variables for both local and global predictions. This method theoretically and operationally extends the so-called additive SHAP approach. It proves useful underlying multiplicative interactions of factors, typically arising in sectors where Generalized Linear Models are traditionally used, such as in insurance or biology. We test the method on various datasets and propose a set of techniques based on individual X-SHAP contributions to build aggregated multiplicative contributions and to capture multiplicative feature importance, that we compare to traditional techniques.

研究の動機と目的

• 機械学習における乗法的解釈性手法の不足、特に保険や疫学分野で標準的である乗法的関係（例：一般化線形モデル）を対象とする。
• 協力的ゲーム理論の原則を用いて、加法的SHAPフレームワークをモデルに依存しない乗法的寄与に拡張する。
• 局所的乗法的寄与をグローバルおよびセグメント化された解釈（例：特徴重要度、部分的依存）に集約するためのツールボックスを開発する。
• X-SHAPの分野知識との一貫性および真の乗法的構造を捉える能力において、加法的手法を上回ることを実証的に検証する。

提案手法

• X-SHAPは、協力的ゲーム理論に基づいて導出された乗法的シャープリー値の拡張を用いて、各特徴が予測に与える乗法的寄与を定式化する。
• スケーラビリティとモデルに依存しない性質を保証するため、局所的乗法的寄与を計算する多項式時間近似アルゴリズムを導入する。
• 部分的依存プロットにおいて幾何平均を用いた平均化を採用し、算術平均に比べて外れ値への感受性を低減する。
• 観測ごとの個々の乗法的寄与を集約して、グローバル特徴重要度およびセグメント化された解釈（例：年齢層や特徴値のビンごと）を計算する。
• 平均絶対寄与度および部分的依存を用いた指標を用いて、Kernel SHAP（加法的）および内在的モデルベース特徴重要度（例：ランダムフォレスト）と比較して検証する。
• X-SHAPはベースライン値 $\phi^0$ を採用し、乗法的分解を定義する：$\phi^0 \cdot \prod_{j=1}^{m} \phi_j^j = f(x)$、ここで $\phi_j^j$ は特徴 $j$ の乗法的寄与を表す。

実験結果

リサーチクエスチョン

• RQ1 モデルに依存しない手法が、乗法的関係が本質的な分野において、機械学習予測における特徴の乗法的寄与を正確に推定できるか？
• RQ2 X-SHAPの乗法的分解は、実世界のデータセットにおいて、加法的SHAPと比較して特徴重要度や予測行動をどれほど正確に捉えられるか？
• RQ3 X-SHAPの集約されたグローバルおよびセグメント化された解釈は、分野固有の期待や専門家の知識とどの程度整合しているか？
• RQ4 部分的依存プロットにおける幾何平均の使用は、従来の算術平均ベースの手法と比較して外れ値へのロバストネスを向上させるか？
• RQ5 X-SHAPの特徴重要度指標は、若年層対高年齢層などのサブグループ間で特徴の影響の違いを検出できるか？加法的手法ではそのニュアンスが見えにくくなる可能性がある。

主な発見

• X-SHAPの乗法的寄与は、特に糖尿病データセットにおいて身体質量指数とS5の特徴重要度が正しく優先順位付けされたことから、専門家の直感と強い整合性を示した。
• X-SHAPの特徴重要度順位は、Kernel SHAPとほとんど同一であり、わずか2つの特徴順位の逆転しかなく、加法的解釈と乗法的解釈の間で高い一貫性があることが示された。
• 若年患者サブグループでは、X-SHAPが特徴重要度の顕著なシフトを明らかにした。S5が身体質量指数を上回る影響力を持つことが判明し、これはグローバル集約では見逃されたニュアンスであった。
• X-SHAPの幾何平均ベースの方法を用いた部分的依存プロットは、従来の算術平均ベースのプロットと比較して滑らかで外れ値への感受性が低く、より安定した傾向を示した。
• 自動車保険データセットにおいて、X-SHAPは都市部在住者および過去に保険金請求経験のある人々が高い保険料を支払うことを正しく同定し、実世界の保険精算基準と整合した。
• X-SHAPツールボックスは、局所的、グローバル的、セグメント化された解釈の複数のレベルでの解釈を可能にした。これは、モデル監査や意思決定支援におけるその多様性を示している。