[論文レビュー] On Computing Probabilistic Explanations for Decision Trees

Marcelo Arenas, Pablo Barceló+2 more|arXiv (Cornell University)|Jun 30, 2022

Explainable Artificial Intelligence (XAI)被引用数 13

ひとこと要約

本論文は、決定木における確率的説明、具体的には予測の確率的根拠（δ-十分な理由）を計算する計算複雑性を調査する。ここで、ある特徴量の部分集合が、モデルの予測を確率δ以上で正当化する必要がある。最小サイズまたは包含意味で最小のδ-十分な理由を求める問題がNP困難であることを証明し、2つの未解決問題を解決した。また、より制限された決定木のクラスに、ブール回路における既知の困難性結果を拡張した。さらに、計算が tractable になる構造的制約を同定し、実用的なSATベースの解決策を提示した。

ABSTRACT

Formal XAI (explainable AI) is a growing area that focuses on computing explanations with mathematical guarantees for the decisions made by ML models. Inside formal XAI, one of the most studied cases is that of explaining the choices taken by decision trees, as they are traditionally deemed as one of the most interpretable classes of models. Recent work has focused on studying the computation of "sufficient reasons", a kind of explanation in which given a decision tree $T$ and an instance $x$, one explains the decision $T(x)$ by providing a subset $y$ of the features of $x$ such that for any other instance $z$ compatible with $y$, it holds that $T(z) = T(x)$, intuitively meaning that the features in $y$ are already enough to fully justify the classification of $x$ by $T$. It has been argued, however, that sufficient reasons constitute a restrictive notion of explanation, and thus the community has started to study their probabilistic counterpart, in which one requires that the probability of $T(z) = T(x)$ must be at least some value $δ\in (0, 1]$, where $z$ is a random instance that is compatible with $y$. Our paper settles the computational complexity of $δ$-sufficient-reasons over decision trees, showing that both (1) finding $δ$-sufficient-reasons that are minimal in size, and (2) finding $δ$-sufficient-reasons that are minimal inclusion-wise, do not admit polynomial-time algorithms (unless P=NP). This is in stark contrast with the deterministic case ($δ= 1$) where inclusion-wise minimal sufficient-reasons are easy to compute. By doing this, we answer two open problems originally raised by Izza et al. On the positive side, we identify structural restrictions of decision trees that make the problem tractable, and show how SAT solvers might be able to tackle these problems in practical settings.

研究の動機と目的

• 決定木におけるδ-十分な理由の計算複雑性を扱う。これは、決定的十分な理由の確率的緩和版である。
• Izzaらが提起した、最小δ-十分な理由の tractability に関する2つの未解決問題を解決する。
• Wäldchen らが得たブール回路における困難性結果を、より制限された決定木のクラスに拡張する。
• δ-十分な理由の計算が tractable になる構造的制約を同定する。
• 現実世界の設定において、δ-十分な理由問題を解く実用的アプローチとしてSATソルバーの利用を検討する。

提案手法

• ランダム補完が行われた場合に予測が同じままである確率がδ以上であるような特徴量の部分集合として、δ-十分な理由を形式化する。
• 既知のNP困難問題をδ-十分な理由問題に還元することで、最小サイズおよび包含意味で最小のバージョンの両方のNP完全性を証明する。
• 幅や深さが有界であるなどの構造的制約を導入し、それらが問題の tractability をもたらすことを示す。
• 識別された tractable 条件を満たすインスタンスに対して、SATソルバーを活用して実用的な解決策を実装する。
• MNISTに基づく決定木を用いた実験的評価を通じて、計算されたδ-十分な理由のサイズと構造を可視化・検証する。
• 現実世界の画像分類タスクにおいて、説明のサイズと信頼度の閾値δとのトレードオフを分析する。

実験結果

リサーチクエスチョン

• RQ1 決定木における最小サイズのδ-十分な理由の計算は、計算的に tractable か、それともNP困難か？
• RQ2 δ < 1 であっても、包含意味で最小のδ-十分な理由の計算はNP困難か？
• RQ3 決定木に適用可能な構造的制約により、δ-十分な理由の計算が tractable になるか？
• RQ4 ブール回路における困難性結果は、より制限された決定木のクラスにどのように拡張されるか？
• RQ5 構造的制約が満たされる条件下で、実用的にSATソルバーを用いてδ-十分な理由を効果的に計算できるか？

主な発見

• 最小サイズのδ-十分な理由の計算は、決定木に対してもNP困難である。δ < 1 であっても同様である。
• 包含意味で最小のδ-十分な理由の計算もNP困難である。これは、δ = 1（決定的ケース）では tractable であるのとは対照的である。
• 深さや幅が有界であっても、問題は依然としてNP困難であるため、本質的な複雑性が存在する。
• 幅や深さが有界であるなどの構造的制約を導入することで、問題は tractable になり、多項式時間で計算可能になる。
• MNISTに基づく決定木を用いた実験的結果から、δ-十分な理由は、数字やモデルに応じて小さくなることが示された（例：k* = 5〜49の特徴量）。
• 構造的制約が満たされる場合、実用的にSATソルバーはδ-十分な理由の計算に有効に機能する。