[論文レビュー] Accurate Shapley Values for explaining tree-based models

Salim I. Amoukou, Nicolas Brunel+1 more|arXiv (Cornell University)|Jun 7, 2021

Explainable Artificial Intelligence (XAI)被引用数 6

ひとこと要約

本稿では、特徴量の依存性やカテゴリカル変数を伴う状況でも、最先端の手法（例：TreeSHAP）よりも精度の高いShapley値（SV）を推定する2つの新しい推定器—DiscreteおよびLeaf—を提案する。標準的なSV推定が特徴量の依存性がある場合にバイアスを生じること、およびカテゴリカル変数のエンコーディングに基づくSV集約が誤った解釈をもたらすことを示し、団体に基づくSV計算を用いて理論的に整合性のある代替手法を提供する。

ABSTRACT

Shapley Values (SV) are widely used in explainable AI, but their estimation and interpretation can be challenging, leading to inaccurate inferences and explanations. As a starting point, we remind an invariance principle for SV and derive the correct approach for computing the SV of categorical variables that are particularly sensitive to the encoding used. In the case of tree-based models, we introduce two estimators of Shapley Values that exploit the tree structure efficiently and are more accurate than state-of-the-art methods. Simulations and comparisons are performed with state-of-the-art algorithms and show the practical gain of our approach. Finally, we discuss the limitations of Shapley Values as a local explanation. These methods are available as a Python package.

研究の動機と目的

• 木構造モデルにおける既存のShapley値（SV）推定器の不正確さ、特に特徴量の依存性がある状況での不正確さを是正すること。
• 標準的なエンコーディング手法に起因するカテゴリカル変数のSVの誤解釈を解消すること。
• 連続的およびカテゴリカルな特徴量の両方において、変数の再パラメータライゼーションに対して不変性を保証する理論的根拠に基づくSV計算手法を提供すること。
• SVのグローバルな性質が局所解釈性に与える影響を是正することで、局所解釈の信頼性を向上させること。

提案手法

• 再パラメータライゼーション下でのSVの不変性原理を導出。これにより、変数のエンコーディングに依存しない一貫性のある解釈が保証される。
• 団体に基づくSV定義（式2）を導入。これは古典的なSVを変数のグループ、特にカテゴリカル特徴量に一般化する。
• Discrete推定器を提案。これはカテゴリカル変数を離散化した上で直接SVを計算することで、エンコーディングに起因するバイアスを回避する。
• Leaf推定器を提案。各リーフに属するすべての訓練データポイントを統合して低次元予測子を計算することで、正確なSV推定を可能にする。
• 真のデータ分布下での条件付き期待値を用いて低次元予測子を定義。これにより推定精度が向上する。
• 提案手法を実用的なXAI応用に向けたPythonパッケージとして実装。

実験結果

リサーチクエスチョン

• RQ1 特徴量の依存性は、木構造モデルにおけるShapley値推定の正確さにどのように影響するか？
• RQ2 カテゴリカル変数に対して標準的なエンコーディング手法を用いて変数のSVを単純に合算することは、なぜ問題となるのか？
• RQ3 連続的およびカテゴリカルな特徴量の両方において、変数のエンコーディングに不変である理論的根拠に基づく推定器を開発可能か？
• RQ4 TreeSHAPのような現在のSV推定器は、特徴量の依存性がある状況で、真の特徴量寄与度を正しく捉えることができない程度はどの程度か？
• RQ5 Shapley値は真に局所的解釈であると言えるのか？それとも、グローバルな平均化が局所解釈性を損なう要因となるのか？

主な発見

• 特徴量の依存性がある合成データ（p=5）において、Discrete推定器はTreeSHAPよりも相対絶対誤差（R-AE）が低い。
• 特徴量相関が高くなるにつれて、Leaf推定器はTreeSHAPよりも顕著に低いR-AEを達成し、ρ=0.99に達するまで性能向上が見られる。
• 特徴量が依存している場合、TreeSHAPは高いバイアスを示し、信頼性の低い特徴量重要度推定をもたらす。
• カテゴリカル変数の各エンコーディング変数のSVを単純に合算することは、すべての特徴量に対して誤ったSVを生じさせ、解釈を無効にする。
• Proposition 5.1が示すように、Shapley値は真に局所的解釈ではない。非活性特徴量のSVが、異なるモデルの状態にわたるグローバルな平均化の影響で非ゼロとなることがある。
• 提案手法は高次元（p=500）でも計算可能であり、特にLeaf推定器は次元pの増加に対しても頑健であるが、TreeSHAPより高い実行時間となる。