[論文レビュー] On Efficiently Explaining Graph-Based Classifiers

Xuanxiang Huang, Yacine Izza+2 more|arXiv (Cornell University)|Jun 2, 2021

Explainable Artificial Intelligence (XAI)参考文献 65被引用数 4

ひとこと要約

本稿は、決定木や2値意思決定図を含む広範なクラスのグラフベース分類器に対して、素因数分解（PI）説明および対照的説明の両方を多項式時間で計算可能にする、説明グラフ（XpG）と呼ばれる新しいグラフ表現を導入する。決定木の場合、すべての対照的説明を多項式時間で列挙可能であり、任意の特徴量が説明に含まれるか否かの判定がPで可能であることが証明されており、実世界のベンチマーク上での実験により実用的な効率性が確認されている。

ABSTRACT

Recent work has shown that not only decision trees (DTs) may not be interpretable but also proposed a polynomial-time algorithm for computing one PI-explanation of a DT. This paper shows that for a wide range of classifiers, globally referred to as decision graphs, and which include decision trees and binary decision diagrams, but also their multi-valued variants, there exist polynomial-time algorithms for computing one PI-explanation. In addition, the paper also proposes a polynomial-time algorithm for computing one contrastive explanation. These novel algorithms build on explanation graphs (XpG's). XpG's denote a graph representation that enables both theoretical and practically efficient computation of explanations for decision graphs. Furthermore, the paper proposes a practically efficient solution for the enumeration of explanations, and studies the complexity of deciding whether a given feature is included in some explanation. For the concrete case of decision trees, the paper shows that the set of all contrastive explanations can be enumerated in polynomial time. Finally, the experimental results validate the practical applicability of the algorithms proposed in the paper on a wide range of publicly available benchmarks.

研究の動機と目的

• 決定木や2値意思決定図のようなグラフベース分類器に対して、形式的かつスケーラブルな説明手法の欠如に応えること。
• PI説明と対照的説明の両方を形式的保証とともに一元化されたフレームワークで計算すること。
• 1つの説明あたり1回のSATオракル呼び出しで十分な、効率的な説明列挙を可能にすること。
• 特徴量が説明に含まれるか否かの判定といった、主な説明タスクの計算複雑性を分析すること。
• 提案手法の実世界ベンチマーク上での実用的スケーラビリティと効率性を検証すること。

提案手法

• 分類器の意思決定論理をコンactに表現するグラフベース表現である説明グラフ（XpG）を導入し、効率的な説明計算を可能にする。
• 多値決定木やOBDDを含むさまざまな分類器を、一様な説明処理が可能なXpG表現に還元する。
• 1つの説明あたり1回のSAT呼び出しで十分な、SATベースの列挙アルゴリズムを採用し、実用的効率を確保する。
• MUS/MCS列挙に適応されたMARCOアルゴリズムを活用し、実際の文脈で効率的な説明列挙を実現する。
• 単調関数と双対性原理を活用し、説明計算を既知の論理的推論技法と関連付ける。
• 説明メンバーシップの複雑性境界を証明する：一般のXpGではNP完全、DNF式ではΣ₂^P-hardであるが、木構造のXpG（例：決定木）ではP完全である。

実験結果

リサーチクエスチョン

• RQ1 広範なクラスのグラフベース分類器に対して、1つのPI説明および1つの対照的説明を計算する多項式時間アルゴリズムを開発可能か？
• RQ2 1つの説明あたり最小限の計算オーバーヘッドで、すべての説明を効率的に列挙可能か？
• RQ3 与えられた特徴量が任意の説明に含まれる可能性があるか否かを判定する計算複雑性はいかほどか？
• RQ4 提案フレームワークは、多値変種を含むさまざまな種類の意思決定グラフに一貫して適用可能か？
• RQ5 提案手法は、複雑性が異なる実世界データセット上でも実用的にスケーリング可能か？

主な発見

• 決定木の場合、すべての対照的説明を多項式時間で列挙可能であり、これはPI説明の列挙への新たな道筋を提供する。
• 木構造の説明グラフ（決定木をモデル化）では、特徴量メンバーシップ問題がPで決定可能であり、特徴量の重要性分析が効率的に行える。
• 提案されたSATベースの列挙法は実用的に良好にスケーリングされ、OBDDでは平均0.074秒未満、決定木では平均0.036秒未満の実行時間で全ベンチマークをカバーする。
• 説明の平均長（%L）は特徴量数に比べて小さく、短く解釈可能な結果が得られている。
• 1インスタンスあたりの説明総数は平均で11未満であり、最大で18に達しないことから、全列挙が現実可能である。
• CNF式のサイズが説明数に線形に増加するため、SATオラクル呼び出しによるオーバーヘッドは無視できるほど小さい。