[论文解读] On Efficiently Explaining Graph-Based Classifiers

Xuanxiang Huang, Yacine Izza+2 more|arXiv (Cornell University)|Jun 2, 2021

Explainable Artificial Intelligence (XAI)参考文献 65被引用 4

一句话总结

本文提出了解释图（XpG），一种新颖的图表示方法，可实现对包括决策树和二元决策图在内的广泛类图分类器的多项式时间计算，同时支持主要析取范式（PI）解释与对比解释。研究证明，对于决策树，所有对比解释均可在多项式时间内枚举，且任一特征是否属于任何解释的成员关系问题可在P时间内判定，实验结果在真实世界基准测试中验证了其实际效率。

ABSTRACT

Recent work has shown that not only decision trees (DTs) may not be interpretable but also proposed a polynomial-time algorithm for computing one PI-explanation of a DT. This paper shows that for a wide range of classifiers, globally referred to as decision graphs, and which include decision trees and binary decision diagrams, but also their multi-valued variants, there exist polynomial-time algorithms for computing one PI-explanation. In addition, the paper also proposes a polynomial-time algorithm for computing one contrastive explanation. These novel algorithms build on explanation graphs (XpG's). XpG's denote a graph representation that enables both theoretical and practically efficient computation of explanations for decision graphs. Furthermore, the paper proposes a practically efficient solution for the enumeration of explanations, and studies the complexity of deciding whether a given feature is included in some explanation. For the concrete case of decision trees, the paper shows that the set of all contrastive explanations can be enumerated in polynomial time. Finally, the experimental results validate the practical applicability of the algorithms proposed in the paper on a wide range of publicly available benchmarks.

研究动机与目标

• 为解决当前图分类器（如决策树和二元决策图）缺乏形式化、可扩展的解释方法的问题。
• 构建一个统一框架，用于计算PI解释与对比解释，并提供形式化保证。
• 通过每次解释仅调用一次SAT预言机，实现高效解释枚举。
• 分析关键解释任务的计算复杂度，例如判断某一特征是否可属于任何解释。
• 在真实世界基准测试上验证所提算法的实际可扩展性与效率。

提出的方法

• 提出解释图（XpG），一种基于图的表示方法，紧凑编码分类器的决策逻辑，从而实现高效的解释计算。
• 将多种分类器（包括多值决策树和OBDD）统一归约为XpG表示，以实现一致的解释处理。
• 采用基于SAT的枚举算法，每次解释仅发起一次SAT调用，确保实际效率。
• 将MARCO算法（用于MUS/MCS枚举）进行适配，以在实践中高效枚举解释。
• 利用单调函数与对偶性原理，将解释计算与已知的基于逻辑的推理技术相联系。
• 证明解释成员关系问题的复杂度界限：一般XpG为NP完全，DNF公式为Σ₂^P难，但树状结构XpG（如决策树）为P完全。

实验结果

研究问题

• RQ1 能否为包括决策树和二元决策图在内的广泛类图分类器，开发出计算单个PI解释与单个对比解释的多项式时间算法？
• RQ2 是否可以高效枚举所有解释，且每次解释的计算开销极低？
• RQ3 判断某一给定特征是否可属于任何解释的计算复杂度为何？
• RQ4 所提框架能否统一应用于不同类型决策图，包括多值变体？
• RQ5 在具有不同复杂度的真实世界数据集上，该方法的实际可扩展性如何？

主要发现

• 对于决策树，所有对比解释均可在多项式时间内枚举，为PI解释的枚举提供了新途径。
• 在树状结构解释图（即建模决策树的结构）中，特征成员关系问题可在P时间内判定，从而实现对特征重要性的高效分析。
• 所提出的基于SAT的枚举方法在实践中表现出良好可扩展性，OBDD的平均运行时间低于0.074秒，决策树的平均运行时间低于0.036秒，所有基准测试均满足此条件。
• 解释的平均长度（%L）相对于特征数量较小，表明结果简洁且可解释。
• 每个实例的解释总数较低——平均少于11个，且从未超过18个，使得完整枚举成为可行方案。
• 由于CNF公式大小随解释数量线性增长，SAT预言机调用带来的开销可忽略不计。