[论文解读] From Formal Boosted Tree Explanations to Interpretable Rule Sets

Yu, Jinqiang, Alexey Ignatiev+1 more|arXiv (Cornell University)|Jul 4, 2019

Explainable Artificial Intelligence (XAI)参考文献 47被引用 33

一句话总结

本文提出了一种基于逻辑的框架 XPlainer，通过基于约束的归谬推理计算全局正确且最小化的解释，以验证、修复和优化 XGBoost 强化树的启发式解释。研究发现，Anchor 和 LIME 的解释在大多数情况下全局不正确——在两个数据集上，Anchor 的乐观程度超过 99%，凸显了对启发式解释进行全局验证的迫切需求。

ABSTRACT

Recent years have witnessed a fast-growing interest in computing explanations for Machine Learning (ML) models predictions. For non-interpretable ML models, the most commonly used approaches for computing explanations are heuristic in nature. In contrast, recent work proposed rigorous approaches for computing explanations, which hold for a given ML model and prediction over the entire instance space. This paper extends earlier work to the case of boosted trees and assesses the quality of explanations obtained with state-of-the-art heuristic approaches. On most of the datasets considered, and for the vast majority of instances, the explanations obtained with heuristic approaches are shown to be inadequate when the entire instance space is (implicitly) considered.

研究动机与目标

• 为解决启发式机器学习解释缺乏全局保证的问题，这些解释是局部计算的，可能在完整实例空间上失效。
• 开发一种可扩展的基于约束的编码方法，用于强化树，通过归谬推理计算全局正确且最小化的解释。
• 设计并实现算法，以验证、修复（当解释过于乐观时）和优化（当解释过于悲观时）启发式解释。
• 通过将全局正确解释作为黄金标准，实证评估最先进启发式解释（LIME 和 Anchor）的质量。

提出的方法

• 提出一种新颖的基于约束的 XGBoost 强化树编码方法，通过归谬推理实现高效全局解释计算。
• 利用基于 SAT 的推理计算子集最小化和基数最小化的解释，以确保全局正确性和最小性。
• 将验证、修复和优化算法集成到 XPlainer 工具中，通过逻辑一致性检查和实例空间上的最小化实现。
• 采用按需归谬推理，仅在需要时计算解释，从而在可扩展性上优于完整编译方法。
• 利用 XGBoost 模型和训练后的实例空间，将启发式解释与全局解释的真实情况对比评估。
• 采用基于逻辑的框架，检测启发式解释中冗余文字（过度悲观）和缺失必要文字（过度乐观）的情况。

实验结果

研究问题

• RQ1 当以 XGBoost 模型的全局正确、最小化解释作为基准时，启发式解释（如 LIME 和 Anchor）的准确性如何？
• RQ2 启发式解释在多大程度上是乐观的（即在大部分实例空间上无法适用）或悲观的（即包含冗余特征）？
• RQ3 基于逻辑的框架（如 XPlainer）能否有效验证、修复和优化强化树的启发式解释？
• RQ4 与 LIME 和 Anchor 等启发式方法相比，计算全局正确解释的计算成本如何？

主要发现

• 在两个数据集中，Anchor 在超过 99% 的实例中呈现乐观倾向，意味着其解释在超过 99% 的输入空间上无法全局适用。
• 在另外两个数据集中，Anchor 在超过 80% 的实例中呈现乐观倾向，表明其解释存在广泛的全局不准确。
• LIME 通常比 Anchor 更为悲观，但两种方法在乐观程度上无明显主导关系，表明两者均存在显著的全局可靠性问题。
• XPlainer 计算的全局解释在构造上既非乐观也非悲观，其解释为子集最小化或基数最小化。
• XPlainer 的子集最小化解释的平均大小为总特征数的 15%–50%，而基数最小化解释进一步减少至 15%–36%，显著提升了可解释性。
• XPlainer 的运行时间与 LIME 和 Anchor 相当，验证耗时可忽略，且在子集最小化模式下，修复与优化操作比基数最小化模式更快。