[論文レビュー] On the Complexity of SHAP-Score-Based Explanations: Tractability via Knowledge Compilation and Non-Approximability Results

Marcelo Arenas, Pablo Barceló+2 more|arXiv (Cornell University)|Apr 16, 2021

Explainable Artificial Intelligence (XAI)被引用数 14

ひとこと要約

本稿では、積分布下での決定的かつ分解可能なブール回路に対して、知識 compiler 技術を活用することで、SHAP スコアを多項式時間で計算できることを確立している。さらに、単調な DNF 公式に対しても SHAP スコアの計算は #P 困難であることを証明し、標準的な複雑性仮定のもとでは、完全多項式ランダム化近似スキーム（FPRAS）が存在しないことを示しており、解釈可能 AI の中での根本的な計算限界を浮き彫りにしている。

ABSTRACT

In Machine Learning, the $\\mathsf{SHAP}$-score is a version of the Shapley value that is used to explain the result of a learned model on a specific entity by assigning a score to every feature. While in general computing Shapley values is an intractable problem, we prove a strong positive result stating that the $\\mathsf{SHAP}$-score can be computed in polynomial time over deterministic and decomposable Boolean circuits. Such circuits are studied in the field of Knowledge Compilation and generalize a wide range of Boolean circuits and binary decision diagrams classes, including binary decision trees and Ordered Binary Decision Diagrams (OBDDs). We also establish the computational limits of the SHAP-score by observing that computing it over a class of Boolean models is always polynomially as hard as the model counting problem for that class. This implies that both determinism and decomposability are essential properties for the circuits that we consider. It also implies that computing $\\mathsf{SHAP}$-scores is intractable as well over the class of propositional formulas in DNF. Based on this negative result, we look for the existence of fully-polynomial randomized approximation schemes (FPRAS) for computing $\\mathsf{SHAP}$-scores over such class. In contrast to the model counting problem for DNF formulas, which admits an FPRAS, we prove that no such FPRAS exists for the computation of $\\mathsf{SHAP}$-scores. Surprisingly, this negative result holds even for the class of monotone formulas in DNF. These techniques can be further extended to prove another strong negative result: Under widely believed complexity assumptions, there is no polynomial-time algorithm that checks, given a monotone DNF formula $\\varphi$ and features $x,y$, whether the $\\mathsf{SHAP}$-score of $x$ in $\\varphi$ is smaller than the $\\mathsf{SHAP}$-score of $y$ in $\\varphi$.

研究の動機と目的

• 機械学習における SHAP スコアに基づく説明の計算複雑性を調査すること。
• 特に知識 compiler の文脈において、SHAP スコアが効率的に計算可能となる条件を同定すること。
• DNF 公式のようなクラスにおいて、SHAP スコア計算のための効率的近似スキーム（例：FPRAS）が存在するかを同定すること。
• SHAP スコア計算が多項式時間で可能となるために、決定的性と分解可能性が必須であることを確立すること。
• ブールモデルにおける SHAP スコアの近似と比較の限界を探索すること。

提案手法

• 著者らは協力的ゲーム理論を用いて SHAP スコアを形式化し、特徴量を分類結果への貢献を行うプレーヤーとしてモデル化している。
• 彼らは、積分布下での決定的かつ分解可能なブール回路において、SHAP スコアが多項式時間で計算可能であることを証明している。
• 複雑なモデルを効率的な SHAP スコア評価を可能にする取り扱いやすい回路表現に変換するため、知識 compiler 技術を用いている。
• 本稿では、SHAP スコア計算をモデルカウンティング問題に還元し、両者の問題が計算複雑性において同値であることを示している。
• 複雑性理論的仮定を用いて、単調な DNF 公式における SHAP スコア計算に対して FPRAS が存在しないことを証明している。
• さらに、ある特徴量の SHAP スコアが別の特徴量のものより小さいかどうかを決定することでさえ、標準的な仮定のもとでは多項式時間で実行不可能であることを示している。

実験結果

リサーチクエスチョン

• RQ1 どのような条件下で SHAP スコアが多項式時間で計算可能か？
• RQ2 DNF 公式における SHAP スコア計算に対して、完全多項式ランダム化近似スキーム（FPRAS）が存在するか？
• RQ3 ブール回路における SHAP スコア計算とモデルカウンティングの関係は何か？
• RQ4 単調な DNF 公式において、特徴量間の SHAP スコアを効率的に比較できるか？
• RQ5 SHAP スコア計算が多項式時間で可能となるために、決定的性と分解可能性は必須か？

主な発見

• 積分布下での決定的かつ分解可能なブール回路において、SHAP スコアは多項式時間で計算可能である。
• この計算の有効性は、二値特徴量に限らず、有限なドメインを持つ特徴量に対しても拡張可能である。
• 命題論理式の DNF 公式のクラスにおいて、SHAP スコアの計算は #P 困難である。単調な DNF 公式に対しても同様である。
• 広く受け入れられた複雑性仮定のもとでは、DNF 公式における SHAP スコア計算に対して完全多項式ランダム化近似スキーム（FPRAS）は存在しない。
• 単調な DNF 公式において、ある特徴量の SHAP スコアが別のものより小さいかどうかを決定することは、計算的に非現実的である。
• 決定的性と分解可能性は本質的である：これらの性質を欠如させると、SHAP スコア計算は #P 困難になる。