[论文解读] Explaining Naive Bayes and Other Linear Classifiers with Polynomial Time and Delay

João Marques‐Silva, Thomas Gerspacher+3 more|arXiv (Cornell University)|Aug 13, 2020

Explainable Artificial Intelligence (XAI)参考文献 25被引用 26

一句话总结

本文提出了一种线性对数时间算法，用于计算线性分类器（包括朴素贝叶斯分类器，NBCs）的最小PI解释（子集最小的充分特征-取值集合），并提出了一种多项式延迟算法用于枚举所有PI解释。主要贡献在于证明了线性分类器的PI解释计算属于P类，解决了长期存在的开放性问题，并实现了具有形式化保证的高效、精确解释。

ABSTRACT

Recent work proposed the computation of so-called PI-explanations of Naive Bayes Classifiers (NBCs). PI-explanations are subset-minimal sets of feature-value pairs that are sufficient for the prediction, and have been computed with state-of-the-art exact algorithms that are worst-case exponential in time and space. In contrast, we show that the computation of one PI-explanation for an NBC can be achieved in log-linear time, and that the same result also applies to the more general class of linear classifiers. Furthermore, we show that the enumeration of PI-explanations can be obtained with polynomial delay. Experimental results demonstrate the performance gains of the new algorithms when compared with earlier work. The experimental results also investigate ways to measure the quality of heuristic explanations

研究动机与目标

• 为解决线性分类器中PI解释计算缺乏高效精确算法的问题，此前该问题需最坏情况下的指数时间与空间复杂度。
• 通过计算子集最小的充分特征-取值集合（即PI解释）来提供解释质量的正式保证。
• 通过证明线性分类器（包括NBCs）的PI解释计算属于P类，实现PI解释计算的可实践部署。
• 开发一种多项式延迟算法以枚举所有PI解释，支持对特征重要性的全面分析。
• 利用穷举PI解释枚举作为黄金标准，对启发式解释方法（如Anchor、SHAP）进行评估与基准测试。

提出的方法

• 提出一种扩展线性分类器（XLC）模型，统一处理实值特征与分类特征，实现对线性分类器的统一建模。
• 设计一种线性对数时间算法，通过利用决策函数的线性结构与高效的约束传播机制，计算最小PI解释。
• 开发一种多项式延迟算法，通过系统性地探索解空间，结合紧凑表示与剪枝策略，实现所有PI解释的枚举。
• 使用SDD（命题决策图）编译技术，将决策函数编译为可 tractable 的逻辑形式，从而在模型上高效响应查询。
• 引入“命中率”（hit）指标，通过测量启发式解释与穷举PI解释枚举中出现频率最高的特征之间的重叠程度，评估启发式解释的质量。
• 实现并对比所提出的XPXLC算法与现有工具（如STEP、Anchor、SHAP）在真实数据集上的表现，评估运行时间、可扩展性与解释质量。

实验结果

研究问题

• RQ1 线性分类器的PI解释能否在多项式时间内计算？该问题的计算复杂性是否已解决？
• RQ2 所有PI解释的枚举能否实现多项式延迟，从而支持可扩展且完整的解释探索？
• RQ3 与穷举PI解释枚举相比，启发式解释方法（如Anchor和SHAP）的质量如何？后者能否作为评估的黄金标准？
• RQ4 所提出的线性对数时间算法相较于现有精确算法，在NBCs与线性分类器上的性能提升程度如何？
• RQ5 启发式解释在多大程度上与通过穷举枚举识别出的最常见、最具影响力的特征-取值对一致？

主要发现

• 任何线性分类器（包括朴素贝叶斯）的最小PI解释均可在对数线性时间内计算，证明该问题属于P类。
• 线性分类器的所有PI解释可实现多项式延迟枚举，支持可扩展且完整的解释探索。
• 所提出的XPXLC算法显著快于先前的精确工具：单个解释的计算时间在数十微秒以内，而Anchor平均耗时1.55秒，SHAP耗时99.58秒。
• 即使忽略SDD编译时间，STEP的枚举阶段仍比XPXLC慢4至20倍，凸显新算法的高效性。
• “命中率”指标显示，启发式解释（Anchor、SHAP）中的特征与穷举枚举中最高频特征之间存在强相关性，验证了PI解释作为基准的合理性。
• 在超过2,000个实例中，Anchor生成的解释与最常见特征完全无重叠，表明其在某些情况下可能存在不可靠性与可信度不足的问题。