[論文レビュー] Improving KernelSHAP: Practical Shapley Value Estimation via Linear Regression

Ian Covert, Su‐In Lee|arXiv (Cornell University)|Dec 2, 2020

Explainable Artificial Intelligence (XAI)被引用数 9

ひとこと要約

この論文は、Shapley値の推定において不偏線形回帰推定量を導入することでKernelSHAPを改善し、収束検出、不確実性の定量化、分散の低減を可能にした。元のKernelSHAPにはわずかなバイアスしかなく、分散が著しく低いことが示され、モデルに依存しないおよび確率的協力ゲームの設定における効率的で信頼性の高いShapley値推定の実用的フレームワークを提案した。

ABSTRACT

The Shapley value concept from cooperative game theory has become a popular technique for interpreting ML models, but efficiently estimating these values remains challenging, particularly in the model-agnostic setting. Here, we revisit the idea of estimating Shapley values via linear regression to understand and improve upon this approach. By analyzing the original KernelSHAP alongside a newly proposed unbiased version, we develop techniques to detect its convergence and calculate uncertainty estimates. We also find that the original version incurs a negligible increase in bias in exchange for significantly lower variance, and we propose a variance reduction technique that further accelerates the convergence of both estimators. Finally, we develop a version of KernelSHAP for stochastic cooperative games that yields fast new estimators for two global explanation methods.

研究の動機と目的

• 元のKernelSHAP手法における収束検出および不確実性の定量化の欠如に対処すること。
• 元のKernelSHAPと新たに提案された不偏バージョンとの間のバイアス-分散トレードオフを分析すること。
• Shapley値推定器の収束を加速する分散低減技術を開発すること。
• 回帰ベースのアプローチを確率的協力ゲームに拡張し、SAGE やShapley効果のような高速なグローバル解釈手法を可能にすること。
• 実世界の応用においてサンプルサイズの決定および推定器の信頼性の評価に役立つ実用的ツールを提供すること。

提案手法

• 推定における系統的誤差を排除するために回帰目的関数を再定式化することで、不偏なKernelSHAPの変種を提案する。
• オンラインでの平均および共分散推定を可能にするWelfordのアルゴリズムを用い、リアルタイムでの収束モニタリングを実現する。
• 推定されたShapley値の範囲に対する不確実性（標準偏差）の比に基づく収束基準を導入する。
• 各サンプルをその補数とペアにする反対的サンプリングを用いて分散低減を実施する。
• 確率的協力ゲームに回帰フレームワークを適応させるために、確率変数上の期待ゲーム値をモデル化し、グローバル解釈手法の高速近似を可能にする。
• 中間の回帰推定値の経験的共分散を用いて不確実性推定値を導出し、サンプル数にスケーリングする。

実験結果

リサーチクエスチョン

• RQ1 元のKernelSHAP推定器には顕著なバイアスがあるのか、不偏バージョンと比較して分散はどの程度異なるのか？
• RQ2 完全な計算を伴わずに、サンプリング中にShapley値推定器の収束を信頼性高く検出できるか？
• RQ3 回帰ベースのShapley値推定に意味的な不確実性推定値を導出できるか？
• RQ4 反対的サンプリングによる分散低減は、Shapley値推定器の収束を加速するのにどの程度効果的か？
• RQ5 回帰ベースのアプローチを確率的協力ゲームに拡張することで、高速なグローバル解釈手法を可能にできるか？

主な発見

• 元のKernelSHAP推定器は、不偏バージョンと比較してわずかなバイアスの増加しかなく、分散が著しく低いことから、より安定しており収束が速いことが示された。
• 不確実性と値の範囲の比に基づく提案された収束検出法は、十分なサンプルが収集されたことを信頼性高く特定できる。
• 中間の回帰推定値の経験的共分散から導出された不確実性推定値は、推定の信頼性を適切に測定する有効な指標である。
• 反対的サンプリングによる分散低減技術は、推定器の分散を低減し、特に高次元設定において収束を加速する。
• 確率的協力ゲームへの拡張により、SAGE やShapley効果のようなグローバル解釈手法の高速かつ正確な近似が可能になり、計算コストが削減された。
• 実験的結果は、不偏回帰ベースの推定器が、サンプリングベースの代替手法と同等またはそれ以上の性能を達成し、不確実性の定量化と収束モニタリングを提供できることを確認した。