[论文解读] Counterfactual Explanations Using Optimization With Constraint Learning

Donato Maragno, Tabea E. Röber+1 more|UvA-DARE (University of Amsterdam)|Sep 22, 2022

Explainable Artificial Intelligence (XAI)被引用 7

一句话总结

本文提出 CE-OCL，一种基于优化的新型框架，通过约束学习同时满足多种实际标准，生成反事实解释。通过整合信任区域和当前最优解，CE-OCL 在接近度、多样性、数据流形接近度和可操作性方面均表现出色，在德国信用数据等基准数据集上优于最先进方法。

ABSTRACT

To increase the adoption of counterfactual explanations in practice, several criteria that these should adhere to have been put forward in the literature. We propose counterfactual explanations using optimization with constraint learning (CE-OCL), a generic and flexible approach that addresses all these criteria and allows room for further extensions. Specifically, we discuss how we can leverage an optimization with constraint learning framework for the generation of counterfactual explanations, and how components of this framework readily map to the criteria. We also propose two novel modeling approaches to address data manifold closeness and diversity, which are two key criteria for practical counterfactual explanations. We test CE-OCL on several datasets and present our results in a case study. Compared against the current state-of-the-art methods, CE-OCL allows for more flexibility and has an overall superior performance in terms of several evaluation metrics proposed in related work.

研究动机与目标

• 解决现有反事实解释方法在同时满足接近度、多样性、可操作性和数据流形接近度等关键实际标准方面存在的差距。
• 开发一种通用且灵活的框架，可将多种可解释性标准系统性地整合到统一的优化模型中。
• 引入新型建模技术——特别是信任区域和基于当前最优解的多样性机制——以提升生成反事实的现实性和多样性。
• 通过在标准数据集（如德国信用数据）上使用全面指标进行评估，树立反事实解释质量的新基准。
• 证明基于约束学习的优化（OCL）是一种可扩展且有效的范式，可用于生成可操作、现实且多样的反事实。

提出的方法

• CE-OCL 将反事实生成建模为约束优化问题，目标函数最小化与事实样本的距离、稀疏性以及与目标预测的偏差。
• 采用信任区域方法，通过将特征值限制在观测到的训练数据邻域内，确保生成的反事实保持在数据流形附近。
• 该框架利用先前优化迭代中的当前最优解，通过防止多个反事实中重复的特征变化来促进多样性。
• 约束学习使复杂标准（如可操作性和因果性）的集成成为可能，方法是通过数据或领域知识学习隐式约束。
• 该方法支持类别型和连续型特征，通过优化过程中适当的编码与解码机制保持一致性。
• 采用多阶段优化模型，逐步添加约束（如稀疏性、可操作性、因果性），以结构化方式优化反事实。

实验结果

研究问题

• RQ1 基于约束学习的优化框架能否以统一方式有效满足反事实解释的主要标准？
• RQ2 信任区域的使用在多大程度上提升了生成反事实的数据流形接近度和现实性？
• RQ3 在迭代优化中，当前最优解在多大程度上增强了反事实解释的多样性？
• RQ4 在有效性、接近度、稀疏性、多样性和可操作性等指标上，CE-OCL 与最先进方法相比表现如何？
• RQ5 所提出的框架能否灵活扩展以集成额外标准（如因果性和一致性）？

主要发现

• 在所有评估部分，CE-OCL 均实现了 1.00 的有效性得分，证实所有生成的反事实均正确预测了期望结果。
• 在包含因果性和数据流形接近度的 Part F 中，接近度指标达到 0.77（归一化尺度），表明与事实样本具有较强的接近性。
• 基于特征差异的多样性指标在 Part F 中达到 0.10，表明在优化约束下仍能有效生成多样化的反事实。
• 在德国信用数据案例研究中，CE-OCL 生成的反事实在满足可操作性和因果性约束的同时，实现了改进的稀疏性（0.78）和接近度（0.77）。
• 与先前方法相比，CE-OCL 在多个评估指标（包括多样性和数据流形接近度）上表现出更优性能，尤其在所有标准均被强制执行时更为显著。
• 该框架成功生成了符合可操作性约束的反事实，例如将‘储蓄’和‘就业时长’等特征的变化限制在有效范围内。