[论文解读] Efficient Explanations With Relevant Sets

Yacine Izza, Alexey Ignatiev+3 more|arXiv (Cornell University)|Jun 1, 2021

Explainable Artificial Intelligence (XAI)参考文献 39被引用 5

一句话总结

本文提出通过决策树和基于知识编译的模型中的子集最小$δ$-相关集，实现概率解释的高效计算，表明利用最大SMT和对偶性技术，此类集合可在多项式时间内计算。该方法在运行时间、解释长度和精确度方面均优于Anchor，为现有启发式与非启发式解释器提供了一种实用且可扩展的替代方案。

ABSTRACT

Recent work proposed $δ$-relevant inputs (or sets) as a probabilistic explanation for the predictions made by a classifier on a given input. $δ$-relevant sets are significant because they serve to relate (model-agnostic) Anchors with (model-accurate) PI- explanations, among other explanation approaches. Unfortunately, the computation of smallest size $δ$-relevant sets is complete for ${NP}^{PP}$, rendering their computation largely infeasible in practice. This paper investigates solutions for tackling the practical limitations of $δ$-relevant sets. First, the paper alternatively considers the computation of subset-minimal sets. Second, the paper studies concrete families of classifiers, including decision trees among others. For these cases, the paper shows that the computation of subset-minimal $δ$-relevant sets is in NP, and can be solved with a polynomial number of calls to an NP oracle. The experimental evaluation compares the proposed approach with heuristic explainers for the concrete case of the classifiers studied in the paper, and confirms the advantage of the proposed solution over the state of the art.

研究动机与目标

• 为解决计算最小$δ$-相关集的高计算复杂度问题，该问题属于$Ν^{Π^P}$完全类，因此在实践中不可行。
• 探索$δ$-相关集的松弛定义，以实现在特定模型类别中高效计算子集最小化解释。
• 证明在决策树和知识编译模型中，子集最小$δ$-相关集可被多项式时间计算。
• 在效率、解释长度和精确度方面，对所提方法与最先进的Anchor解释器进行实证评估。

提出的方法

• 提出$δ$-相关集的松弛定义，使在决策树和知识编译模型中可多项式时间计算子集最小化解释。
• 使用MaxSMT求解器计算决策树中基数最小的$δ$-相关集，利用该判定问题属于NP的事实。
• 应用解释理论中的对偶性原理，枚举并推理不同类型的$δ$-相关集。
• 采用原型解释器idrs，结合MaxSMT与模型检测技术，高效计算子集最小$δ$-相关集。
• 提出一个框架，在保持形式严谨性和可扩展性的前提下，计算具有概率保证的解释。

实验结果

研究问题

• RQ1 能否在决策树中高效计算子集最小$δ$-相关集？
• RQ2 $δ$-相关集的松弛定义是否可在特定模型类别中实现多项式时间计算？
• RQ3 解释理论中的对偶性结果能否扩展至$δ$-相关集，以实现高效枚举？
• RQ4 所提方法在运行时间、解释长度和精确度方面与Anchor相比表现如何？

主要发现

• 所提方法在平均每个实例不到1秒内完成子集最小$δ$-相关集的计算，最大仅1.0秒，显著优于Anchor的平均10秒和峰值138秒。
• 解释长度大幅减少：当$δ = 0.01, 0.02, 0.05$时，平均长度低于5个特征，而Anchor的平均长度为9.0个特征。
• 当$δ = 0$时，I$δ$-相关集达到100%精确度，即使在$δ = 0.05$时，平均精确度仍保持在0.69，优于或匹配Anchor的精确度。
• 所提方法的运行时间对$δ$值不敏感，在所有测试的$δ$水平下均保持可忽略不计。
• 该方法在大型决策树上表现出良好可扩展性，即使在包含最多4,368个实例的数据集上，解释时间也保持在1秒以内。