[论文解读] Latent-CF: A Simple Baseline for Reverse Counterfactual Explanations

Rachana Balasubramanian, Samuel Sharpe+3 more|arXiv (Cornell University)|Dec 16, 2020

Explainable Artificial Intelligence (XAI)参考文献 20被引用 14

一句话总结

Latent-CF 通过在变分自编码器的潜在空间中进行优化，提出了一种简单但有效的反事实解释基线方法，在计算效率、稀疏性和分布内反事实之间取得了良好平衡。在 MNIST 和 Lending Club 数据集上，其在分布保真度方面优于特征空间梯度方法，并在稀疏性和真实性方面与更复杂的模型（如 Prototypes）相当或更优。

ABSTRACT

In the environment of fair lending laws and the General Data Protection Regulation (GDPR), the ability to explain a model's prediction is of paramount importance. High quality explanations are the first step in assessing fairness. Counterfactuals are valuable tools for explainability. They provide actionable, comprehensible explanations for the individual who is subject to decisions made from the prediction. It is important to find a baseline for producing them. We propose a simple method for generating counterfactuals by using gradient descent to search in the latent space of an autoencoder and benchmark our method against approaches that search for counterfactuals in feature space. Additionally, we implement metrics to concretely evaluate the quality of the counterfactuals. We show that latent space counterfactual generation strikes a balance between the speed of basic feature gradient descent methods and the sparseness and authenticity of counterfactuals generated by more complex feature space oriented techniques.

研究动机与目标

• 为高风险人工智能决策中的可操作、可解释性解释需求提供支持，特别是在 GDPR 等法规背景下。
• 提出一种简单、高效的基线方法，用于生成在稀疏性、计算速度和数据分布一致性之间取得平衡的反事实解释。
• 使用聚焦于分布内、稀疏性和计算效率的指标来评估反事实质量。
• 证明潜在空间优化在生成真实且稀疏的反事实方面优于特征空间梯度方法。
• 通过系统化的评估框架，为未来反事实生成方法建立基准。

提出的方法

• 在与分类器相同的训练数据上训练变分自编码器（VAE），以学习紧凑且解耦的潜在表示。
• 使用训练好的编码器将输入样本编码到潜在空间。
• 通过梯度下降优化潜在码，以最小化目标类别的预测损失，同时保持与原始潜在码的接近性。
• 将优化后的潜在码解码，以在原始输入空间中生成最终的反事实样本。
• 使用可微分分类器计算潜在空间中的梯度，从而实现端到端优化。
• 应用正则化和裁剪操作，以确保反事实与原始样本保持接近，并保留数据分布特性。

实验结果

研究问题

• RQ1 潜在空间优化能否生成既稀疏又分布内的反事实，从而优于特征空间梯度方法？
• RQ2 潜在空间优化的计算效率与更复杂的基于特征的方法（如 Prototypes）相比如何？
• RQ3 与标准自编码器相比，使用变分自编码器是否能显著提升反事实质量？
• RQ4 与基于特征梯度下降的方法相比，Latent-CF 生成的反事实在特征扰动模式和真实性方面表现如何？
• RQ5 潜在空间表示在多大程度上保留了对个体决策具有意义且可操作的改变？

主要发现

• Latent-CF 生成的反事实显著更符合数据分布，而基于特征梯度下降的方法会产生分布外的改变，尤其是在图像边缘区域。
• 该方法实现了高稀疏性，MNIST 反事实中改变的像素少于 10%，而基于 FGD 的方法则超过 50%。
• Latent-CF 在高维和低维数据上均保持一致的性能，在 MNIST 和 Lending Club 表格式数据上均优于基于特征空间的方法。
• 基于特征梯度下降的方法（FGD、FGD+C、FGD+MAD）会产生高度相关的扰动，通常同时降低多个风险因素，这可能无法反映真实的个体行为改变。
• Prototypes 和 Latent-CF 生成的反事实更具多样性且与样本相关，其基于输入的联合分布进行条件建模，而 FGD 基方法则表现出均匀的扰动模式。
• 对潜在空间进行正则化在关键指标上带来的收益有限，尽管在高维设置下可能略有改善。