[论文解读] Counterfactual Explanations for Arbitrary Regression Models

Thomas Spooner, Danial Dervovic+4 more|arXiv (Cornell University)|Jun 29, 2021

Explainable Artificial Intelligence (XAI)参考文献 51被引用 10

一句话总结

本文提出一种基于贝叶斯优化的生成回归模型反事实解释（CFE）的方法，采用可微分势函数以克服基于阈值的鲁棒性问题。该方法实现全局收敛，支持任意约束（如稀疏性、可操作性），并支持并行查询与知识迁移，在真实世界回归任务中，其样本效率和精度优于基于局部梯度的方法。

ABSTRACT

We present a new method for counterfactual explanations (CFEs) based on Bayesian optimisation that applies to both classification and regression models. Our method is a globally convergent search algorithm with support for arbitrary regression models and constraints like feature sparsity and actionable recourse, and furthermore can answer multiple counterfactual questions in parallel while learning from previous queries. We formulate CFE search for regression models in a rigorous mathematical framework using differentiable potentials, which resolves robustness issues in threshold-based objectives. We prove that in this framework, (a) verifying the existence of counterfactuals is NP-complete; and (b) that finding instances using such potentials is CLS-complete. We describe a unified algorithm for CFEs using a specialised acquisition function that composes both expected improvement and an exponential-polynomial (EP) family with desirable properties. Our evaluation on real-world benchmark domains demonstrate high sample-efficiency and precision.

研究动机与目标

• 为解决回归模型中缺乏稳健、原则化的反事实解释方法的问题，这些方法由于连续输出而容易产生平凡或无信息的扰动。
• 通过可微分势函数形式化回归中的反事实搜索，解决基于阈值目标的敏感性问题。
• 开发一种全局收敛、兼容黑箱模型的算法，支持任意非线性约束，并实现并行、摊销式的反事实生成。
• 在所提出的框架中建立反事实存在性与最优性的理论复杂度边界，证明其为NP完全和CLS完全。
• 通过在真实世界回归基准上的实证评估，证明该方法在生成可操作、稀疏且具有因果依据的反事实方面的有效性。

提出的方法

• 使用可微分势函数形式化回归中的反事实搜索，替代基于阈值的目标函数，以确保鲁棒性与数学严谨性。
• 引入指数-多项式（EP）势函数族，具备理想的理论与实际属性，用于建模目标偏差。
• 设计一种专用的采集函数，结合期望改进与EP势函数，引导贝叶斯优化向有效且高质量的反事实方向推进。
• 实现统一算法，通过用户定义的正则化或特征边界，支持任意非线性约束（如稀疏性、可操作性）。
• 在单次优化运行中支持对多个反事实问题的并行查询，复用各查询间的优化信息以提升样本效率。
• 采用具有全局收敛保证的贝叶斯优化，即使在底层模型不可微或为黑箱时亦适用。

实验结果

研究问题

• RQ1 能否为回归模型开发一种原则化、稳健的反事实解释框架，避免基于阈值目标的缺陷？
• RQ2 在所提出的基于势函数的形式化框架中，反事实存在性与最优性的计算复杂度为何？
• RQ3 基于贝叶斯优化的方法能否在任意回归模型中实现全局收敛与高样本效率的反事实生成？
• RQ4 该方法在真实世界回归任务中生成可操作、稀疏且具有因果合理性的反事实方面效果如何？
• RQ5 该方法能否在并行支持多个反事实查询的同时，复用各查询间的优化知识？

主要发现

• 所提方法在真实世界回归基准上生成反事实时展现出高样本效率与高精度，优于基于局部梯度的方法。
• 采用可微分势函数有效解决了基于阈值目标固有的鲁棒性问题，确保了反事实生成的一致性与意义性。
• 理论分析证明，在所提形式化框架下，验证反事实存在性为NP完全，寻找最优反事实为CLS完全。
• 即使在模型不可微的情况下，该算法仍表现出全局收敛性，这是相较于局部优化方法的关键优势。
• 针对拼车时长预测模型生成的反事实揭示了直观的驱动因素（如距离、乘客数量）与反直觉的模式（如一天中不同时段的影响），验证了其诊断价值。
• 即使在无任何约束条件下，部分目标偏差仍不可达，而该方法通过累积候选采样成功识别出这一点，而路径依赖的梯度方法则无法做到。