[论文解读] Contrastive Explanations with Local Foil Trees

Jasper van der Waa, Marcel Robeer+3 more|arXiv (Cornell University)|Jun 19, 2018

Explainable Artificial Intelligence (XAI)参考文献 26被引用 20

一句话总结

本文提出了一种模型无关的方法，通过局部反例树（local foil trees）实现对比解释——即训练决策树以区分目标类别（反例）与其他所有类别，从而识别出解释为何一个数据点被分类为事实（观察输出）而非反例（替代输出）的最小、基于规则的差异。该方法通过计算事实叶节点规则在反例叶节点规则中的相对补集，提取对比规则，从而在多种模型和数据集上实现高保真度、简洁且人类可读的解释。

ABSTRACT

ContrastiveExplanation 0.2

研究动机与目标

• 为解决可解释机器学习中的特征过载问题，通过对比推理减少解释长度。
• 通过回答“为何是这个结果而非那个结果？”而非“为何是这个结果？”，模拟人类的解释行为。
• 开发一种方法，生成仅聚焦于区分事实与反例类别的特征的简洁、基于规则的解释。
• 通过使用局部训练的一对多决策树提取对比规则，确保方法的模型无关性。

提出的方法

• 训练一个一对多决策树（反例树）以将数据点分类为反例类别或非反例类别。
• 在反例树中确定输入数据点所在的事实叶节点和反例叶节点。
• 提取从根节点到反例叶节点的路径以及到事实叶节点的路径，然后计算事实规则在反例规则中的相对补集。
• 将对比解释表示为反例路径中不包含在事实路径中的决策节点集合，代表区分反例与事实的特征。
• 合并重叠规则，生成紧凑且可读的解释。
• 使用文本模板从提取的规则集中生成自然语言解释。

实验结果

研究问题

• RQ1 对比解释是否能通过仅关注区分事实与特定反例类别的特征，从而减少解释长度？
• RQ2 局部反例树在解释多种机器学习模型时，能否保持高保真度和准确性？
• RQ3 该方法能否生成反映底层模型决策边界的可读、基于规则的解释？
• RQ4 该方法在不同模型架构和数据集上的性能表现如何？

主要发现

• 在Iris、Diabetes和Heart Disease数据集上，该方法的平均解释长度为1.32至1.94个特征，表明解释极为简洁。
• 在Iris数据集上，使用神经网络时，该方法的F1得分为0.97，保真度为0.87，表明规则提取具有高准确性。
• 在Diabetes数据集上，所有模型（包括逻辑回归和SVM）的F1得分均为1.00，表明规则提取在各类模型中保持一致。
• 该方法在所有模型和数据集上均保持高保真度（0.86–0.99）和高准确率（0.86–0.99），证实了其模型无关性。
• 平均解释时间在0.005至0.106秒之间，表明计算效率高。
• 在对话示例中，系统为Iris数据集生成了两节点规则解释：'petal width ≤ 0.8 and sepal width > 3.3'，用于区分Versicolor与Setosa。