[論文レビュー] groupShapley: Efficient prediction explanation with Shapley values for feature groups

Martin Jullum, Annabelle Redelmeier+1 more|arXiv (Cornell University)|Jun 23, 2021

Explainable Artificial Intelligence (XAI)被引用数 11

ひとこと要約

この論文では、計算複雑性を低減し、機械学習の解釈性を向上させるために、特徴量をグループ化してシャープレイ値を計算する groupShapley を導入する。特徴量を、人口統計的属性、車両情報、運転履歴などの意味のあるグループに集約することで、数100個の特徴量を持つ状況でも、計算が効率的で正確かつ直感的な予測解釈が可能になる。特定の条件下では理論的性質を保持する。

ABSTRACT

Shapley values has established itself as one of the most appropriate and theoretically sound frameworks for explaining predictions from complex machine learning models. The popularity of Shapley values in the explanation setting is probably due to its unique theoretical properties. The main drawback with Shapley values, however, is that its computational complexity grows exponentially in the number of input features, making it unfeasible in many real world situations where there could be hundreds or thousands of features. Furthermore, with many (dependent) features, presenting/visualizing and interpreting the computed Shapley values also becomes challenging. The present paper introduces groupShapley: a conceptually simple approach for dealing with the aforementioned bottlenecks. The idea is to group the features, for example by type or dependence, and then compute and present Shapley values for these groups instead of for all individual features. Reducing hundreds or thousands of features to half a dozen or so, makes precise computations practically feasible and the presentation and knowledge extraction greatly simplified. We prove that under certain conditions, groupShapley is equivalent to summing the feature-wise Shapley values within each feature group. Moreover, we provide a simulation study exemplifying the differences when these conditions are not met. We illustrate the usability of the approach in a real world car insurance example, where groupShapley is used to provide simple and intuitive explanations.

研究の動機と目的

• 特徴量が数100個以上ある高次元の機械学習モデルにおけるシャープレイ値の指数的計算複雑性に対処する。
• 特徴量が従属関係にあったり、数が多すぎたりする場合に、個々のシャープレイ値の解釈を困難にする課題を克服する。
• 理論的に整合性があり、計算が可能なシンプルなローカルモデル解釈手法を提供する。
• 実世界の応用において、可視化や説明がより簡単になる、直感的なグループベースの解釈を可能にする。
• 混合特徴量タイプと依存関係を有する複雑な実世界データセットにおいて、この手法の有効性を示す。

提案手法

• ドメイン知識や依存構造に基づいて、特徴量を意味のあるカテゴリ（例：個人情報、車両情報、運転履歴）にグループ化する。
• 個々の特徴量ではなくグループごとにシャープレイ値を計算することで、計算回数を指数的から管理可能なレベルに削減する。
• 特徴量の依存関係を適切に扱うために、条件付き期待値に基づく寄与関数 $ v(\mathcal{S}) = \mathbb{E}[f(\bm{x}) \mid \bm{x}_{\mathcal{S}} = \bm{x}^*_{\mathcal{S}}] $ を使用する。
• 特徴量がグループ内で交換可能または独立である場合に、groupShapley がグループ内個々のシャープレイ値の和に等しくなることを数学的に証明する。
• 混合連続・離散・カテゴリカル特徴量が存在する状況において、条件付き期待値を推定するために条件付き推論木を適用する。
• 実世界の応用における実用性を高めるために、Rパッケージ `shapr`（開発版）にこのアプローチを実装する。

実験結果

リサーチクエスチョン

• RQ1 特徴量をグループ化することで、シャープレイ値の理論的性質を保持しつつ、計算コストを著しく削減できるか？
• RQ2 グループ内のシャープレイ値が、グループ内個々のシャープレイ値の和に等しくなるのはどのような条件下か？
• RQ3 特徴量の依存関係が等価性の条件を満たさない場合、groupShapley は実際の性能をどのように示すか？
• RQ4 個々の特徴量のシャープレイ値と比較して、groupShapley は実世界の機械学習応用において、より解釈可能で実行可能な解釈を提供できるか？
• RQ5 欠損値や複雑な依存関係を有する高次元で混合タイプのデータに対して、groupShapley はどの程度効果的に機能するか？

主な発見

• 特徴量の数が数10個を超える場合、groupShapley は個々の特徴量のシャープレイ値に対する計算が可能な代替手段を提供する。
• グループ内特徴量が交換可能または独立である条件を満たす場合、groupShapley は数学的にグループ内個々のシャープレイ値の和に等しくなる。
• 依存関係のある特徴量を含むシミュレーションにおいて、groupShapley 値は個々のシャープレイ値の和から乖離することが示され、解釈におけるグループ構造の重要性が浮き彫りになった。
• 23個の特徴量を有する実世界の自動車保険データセットにおいて、groupShapley はドメインの期待に一致する直感的なグループベースの解釈を的確に生成した（例：運転記録および個人情報グループが強い影響を示した）。
• 混合特徴量タイプ、欠損データ（予測平均マッチングによる処理）、複雑な依存関係に対しても、groupShapley は効果的に対処でき、AUC 0.815 のランダムフォレストモデルでもその有効性が実証された。
• 図4に示すように、groupShapley は明確な可視化とモデル予測の解釈を可能にした。4人の個人に対するグループ寄与度は、すべてのケースで現実世界の期待と一貫していた。