[論文レビュー] Algorithms to estimate Shapley value feature attributions

Hugh Chen, Ian Covert+2 more|arXiv (Cornell University)|Jul 15, 2022

Explainable Artificial Intelligence (XAI)被引用数 21

ひとこと要約

この論文はShapley値の説明を推定する24のアルゴリズムを分類・調査し、特徴の除去方法と推定方法を分離し、モデル非依存とモデル依存アプローチを分析します。

ABSTRACT

Feature attributions based on the Shapley value are popular for explaining machine learning models; however, their estimation is complex from both a theoretical and computational standpoint. We disentangle this complexity into two factors: (1)~the approach to removing feature information, and (2)~the tractable estimation strategy. These two factors provide a natural lens through which we can better understand and compare 24 distinct algorithms. Based on the various feature removal approaches, we describe the multiple types of Shapley value feature attributions and methods to calculate each one. Then, based on the tractable estimation strategies, we characterize two distinct families of approaches: model-agnostic and model-specific approximations. For the model-agnostic approximations, we benchmark a wide class of estimation approaches and tie them to alternative yet equivalent characterizations of the Shapley value. For the model-specific approximations, we clarify the assumptions crucial to each method's tractability for linear, tree, and deep models. Finally, we identify gaps in the literature and promising future research directions.

研究の動機と目的

• Shapley値の説明がモデル解釈性においてなぜ人気があるのかを説明する。
• Shapley説明の複雑さを特徴量の除去と推定戦略に分離する。
• Shapley値を推定する幅広いアルゴリズムを分類・ベンチマークする。
• 線形・決定木・深層モデルに対するモデル特異的アプローチの前提を明確化する。
• 現状のギャップを特定し、Shapley値の説明における将来の研究方向を提案する。

提案手法

• Shapley値を用いて単一予測を説明するための協力ゲームを定義する。
• 除去アプローチの定義と比較: ベースライン、限界、および条件付きShapley値を用いた除去アプローチの定義と比較。
• 推定戦略をモデル非依存（例：KernelSHAP、サンプリング、 multilinear extension）とモデル特異的手法（線形、木、深層モデル）に分類する。
• 推定手法と同等のShapley値特性表現との経験的関連を提供する。
• さまざまなベースラインと分布のバイアス、分散、および実用性などのトレードオフを論じる。

実験結果

リサーチクエスチョン

• RQ1 Shapley値の説明を計算する際に特徴を除去する方法には、どのような違いがあるか。
• RQ2 モデル非依存とモデル依存の推定アプローチは、扱いや精度の点でどう比較されるか。
• RQ3 ベースライン、限界、条件付きShapley値推定の背後にある前提は何か。
• RQ4 特徴間の相関とエンコーディングの選択がShapley値の寄与にどのように影響するか。
• RQ5 現在の文献にはどのようなギャップが存在し、将来どの方向性が有望か。

主な発見

• Shapley値の説明のために特徴除去と扱いやすい推定戦略を組み合わせた24の異なるアルゴリズムが存在する。
• ベースライン、限界、および条件付き除去アプローチは、異なる寄与解釈と推定課題をもたらす。
• 限界Shapley値は一般に条件付きより推定が簡単で、特にモデル非依存の方法ではそうである。
• 条件付きShapley値は相関する特徴間でクレジットを分担して捕捉するため、隠れた依存関係を明らかにすることがあるが、場合によってはクレジットを過度に分散させることがある。
• モデル非依存の方法は柔軟性を提供するが確率的である一方、モデル特異的な方法は高速だがより強い前提に依存する。
• 本論文はギャップを特定し、推定技術と理論的理解を鋭化する将来の方向性を提案する。