[论文解读] CounteRGAN: Generating Realistic Counterfactuals with Residual Generative Adversarial Nets

Daniel Nemirovsky, Nicolas Thiébaut+2 more|arXiv (Cornell University)|Sep 10, 2020

Explainable Artificial Intelligence (XAI)被引用 11

一句话总结

CounteRGAN 提出了一种新颖的残差生成对抗网络（RGAN），用于为机器学习模型生成逼真、可操作且低延迟的反事实样本。通过利用学习残差扰动的生成器和用于强制实现数据分布真实性的判别器，该方法在推理速度上相比先前方法最快提升了 90,000 倍，同时在真实世界数据集上提升了反事实的逼真度与可操作性。

ABSTRACT

The prevalence of machine learning models in various industries has led to growing demands for model interpretability and for the ability to provide meaningful recourse to users. For example, patients hoping to improve their diagnoses or loan applicants seeking to increase their chances of approval. Counterfactuals can help in this regard by identifying input perturbations that would result in more desirable prediction outcomes. Meaningful counterfactuals should be able to achieve the desired outcome, but also be realistic, actionable, and efficient to compute. Current approaches achieve desired outcomes with moderate actionability but are severely limited in terms of realism and latency. To tackle these limitations, we apply Generative Adversarial Nets (GANs) toward counterfactual search. We also introduce a novel Residual GAN (RGAN) that helps to improve counterfactual realism and actionability compared to regular GANs. The proposed CounteRGAN method utilizes an RGAN and a target classifier to produce counterfactuals capable of providing meaningful recourse. Evaluations on two popular datasets highlight how the CounteRGAN is able to overcome the limitations of existing methods, including latency improvements of >50x to >90,000x, making meaningful recourse available in real-time and applicable to a wide range of domains.

研究动机与目标

• 解决现有反事实生成方法存在的局限性，包括逼真度差、可操作性低以及延迟高。
• 实现在医疗、金融和刑事司法等高风险领域中用户可实时获得有意义的可解释性反馈。
• 通过基于 GAN 的框架将逼真度与可操作性解耦，既保持数据分布保真度，又能提出可行的输入扰动。
• 通过设计不依赖模型梯度的方法，支持黑箱模型和不可微分类器。
• 通过生成揭示不公平特征依赖关系的反事实样本，揭示训练模型中潜在的偏见。

提出的方法

• 该方法采用残差 GAN（RGAN），其中生成器学习输出输入数据的残差扰动，而非直接生成反事实样本。
• 判别器被训练以区分真实数据样本与生成的反事实样本，通过使生成输出与底层数据分布对齐来强制实现逼真度。
• 固定的目标分类器用于评估扰动后输入的预测结果，确保反事实能导向期望的模型输出。
• 生成器的损失函数结合了来自判别器的对抗损失和来自目标分类器的预测损失，支持端到端训练。
• 该框架兼容黑箱模型，因其不依赖目标分类器的梯度，适用于现实世界生产系统。
• 该方法通过判别器强制实现逼真度，通过特征扰动的稀疏性与接近度引导可操作性，通过分类器反馈优化预测增益，从而实现逼真度与可操作性的解耦。

实验结果

研究问题

• RQ1 基于 GAN 的框架能否在不依赖梯度优化的情况下，生成既逼真又可操作的反事实？
• RQ2 与标准 GAN 或基于梯度的方法相比，残差生成器架构在多大程度上提升了反事实的逼真度？
• RQ3 与 SOTA 方法（如 RGD 和 CSGP）相比，所提方法在反事实生成延迟方面实现了多大程度的降低？
• RQ4 该方法能否揭示训练模型中的潜在偏见，例如在再犯预测中与种族或性别相关的偏见？
• RQ5 在生成可行且可解释的反事实时，该框架是否能保持较高的预测增益？

主要发现

• 与 RGD 和 CSGP 相比，CounteRGAN 在延迟方面实现了超过 50 倍至超过 90,000 倍的提升，支持实时反事实生成。
• 在 COMPAS 数据集上，GAN 和 CounteRGAN 生成的反事实建议将种族从“Black”更改为“Caucasian”，性别从“Male”更改为“Female”，表明模型可能存在偏见。
• 通过在 MNIST 等数据集上的定性与定量分析验证，CounteRGAN 生成的反事实在逼真度方面优于基线方法。
• CounteRGAN 生成的反事实实现了强大的预测增益，在所有测试案例中均成功将模型输出翻转至目标类别。
• 该方法保持了高可操作性，其扰动稀疏且可解释，避免了诸如“前科次数为负数”等不现实的改变。
• 该方法成功为黑箱分类器生成反事实，证明其与现实世界系统兼容，即使在模型梯度不可用的情况下亦可使用。