[论文解读] NICE: An Algorithm for Nearest Instance Counterfactual Explanations

Dieter Brughmans, Pieter Leyman+1 more|arXiv (Cornell University)|Apr 15, 2021

Explainable Artificial Intelligence (XAI)被引用 7

一句话总结

NICE 是一种新颖的、与模型无关的算法，用于在异质性表格数据中生成反事实解释，可实现 100% 的覆盖率、高效性，并兼容任何分类模型。该算法通过迭代地从最近的异类邻居中引入特征来生成反事实样本，在 40 个数据集上，其在稀疏性、接近度和合理性方面均优于最先进方法。

ABSTRACT

In this paper we suggest NICE: a new algorithm to generate counterfactual explanations for heterogeneous tabular data. The design of our algorithm specifically takes into account algorithmic requirements that often emerge in real-life deployments: (1) the ability to provide an explanation for all predictions, (2) being able to handle any classification model (also non-differentiable ones), and (3) being efficient in run time. More specifically, our approach exploits information from a nearest unlike neighbour to speed up the search process, by iteratively introducing feature values from this neighbour in the instance to be explained. We propose four versions of NICE, one without optimization and, three which optimize the explanations for one of the following properties: sparsity, proximity or plausibility. An extensive empirical comparison on 40 datasets shows that our algorithm outperforms the current state-of-the-art in terms of these criteria. Our analyses show a trade-off between on the one hand plausibility and on the other hand proximity or sparsity, with our different optimization methods offering users the choice to select the types of counterfactuals that they prefer. An open-source implementation of NICE can be found at https://github.com/ADMAntwerp/NICE.

研究动机与目标

• 解决在高风险领域（如信用评分和欺诈检测）中缺乏高效、与模型无关的反事实解释算法的问题，以支持实际部署。
• 确保所有预测均可被解释，克服现有方法在某些实例上无法生成解释的局限性。
• 实现计算效率，以支持在海关或贷款处理等高吞吐量环境中的实时决策。
• 为用户提供可定制的反事实解释，针对稀疏性、接近度或合理性进行优化，从而支持在不同权衡之间的解释选择。
• 开发一种适用于不可微分模型和异质性表格数据的方法，以增强实际适用性。

提出的方法

• 从最近的异类邻居（即来自相反类别的正确分类实例）出发启动反事实搜索，利用其与待解释实例的接近性来提高效率。
• 通过逐个特征地将待解释实例的特征值替换为最近异类邻居的对应值，迭代修改该实例。
• 采用贪心、迭代的方法识别能引发类别变化的最小特征变更集合，以确保效率和收敛性。
• 实现 NICE 的四种变体：一种基线版本，以及三种分别针对稀疏性、接近度或合理性的优化版本，使用定制化的奖励函数。
• 仅对原始实例中存在的特征施加特征级扰动，以确保合理性并避免不切实际的更改。
• 通过修改奖励函数以支持多类别目标，将该方法推广至多分类场景，同时保持完全的覆盖率。

实验结果

研究问题

• RQ1 反事实解释算法是否能在真实世界部署场景中实现对所有预测的 100% 覆盖？
• RQ2 如何使反事实生成在高吞吐量应用（如海关或信用评分）中实现高效且可扩展？
• RQ3 在反事实解释中，稀疏性、接近度和合理性之间的权衡是什么？用户能否对这一权衡进行控制？
• RQ4 与模型无关的算法是否能为不可微分模型和异质性表格数据生成高质量的反事实？
• RQ5 NICE 在多种评估指标（包括文献中的替代接近度和合理性度量）下，与最先进方法相比表现如何？

主要发现

• 在 40 个多样化数据集上，NICE 在稀疏性、接近度和合理性这三个关键目标上均优于现有的最先进反事实算法。
• 稀疏性与接近度之间存在强相关性，表明反事实生成中的主要权衡在于这两项属性与合理性的权衡。
• 该算法实现了 100% 的覆盖率，确保每个实例（尤其是负样本）均可被解释，满足法律和运营要求。
• 即使在使用文献中替代的接近度和合理性度量进行评估时，NICE 仍保持卓越性能，证实其鲁棒性。
• NICE 的不同优化变体使用户能够根据自身需求选择解释，例如最小特征变更（稀疏性）、接近原始实例（接近度）或真实、合理的变更（合理性）。
• 实证结果证实，NICE 计算效率高，适用于高容量决策系统中的实时部署。