[论文解读] Counterfactual Explanations via Latent Space Projection and Interpolation

Brian Barr, Matthew R. Harrington+2 more|arXiv (Cornell University)|Dec 1, 2021

Explainable Artificial Intelligence (XAI)被引用 4

一句话总结

SharpShooter 是一种模型无关的方法，通过潜在空间投影和插值生成反事实解释，利用两个变分自编码器将输入投影至目标类别，并通过潜在空间中的线性插值生成真实且稀疏的反事实。该方法在表格数据和图像数据集上，推理速度相比基于梯度的基线方法最高提升1,000倍，同时保持了高真实性和可行性。

ABSTRACT

Counterfactual explanations represent the minimal change to a data sample that alters its predicted classification, typically from an unfavorable initial class to a desired target class. Counterfactuals help answer questions such as "what needs to change for this application to get accepted for a loan?". A number of recently proposed approaches to counterfactual generation give varying definitions of "plausible" counterfactuals and methods to generate them. However, many of these methods are computationally intensive and provide unconvincing explanations. Here we introduce SharpShooter, a method for binary classification that starts by creating a projected version of the input that classifies as the target class. Counterfactual candidates are then generated in latent space on the interpolation line between the input and its projection. We then demonstrate that our framework translates core characteristics of a sample to its counterfactual through the use of learned representations. Furthermore, we show that SharpShooter is competitive across common quality metrics on tabular and image datasets while being orders of magnitude faster than two comparable methods and excels at measures of realism, making it well-suited for high velocity machine learning applications which require timely explanations.

研究动机与目标

• 解决机器学习部署流程中，中间用户缺乏高效、真实且可行的反事实解释的问题。
• 克服现有反事实生成方法在高维或分类数据中计算效率低下和不可行的问题。
• 通过利用变分自编码器学习的潜在表示，提升反事实的真实性和稀疏性。
• 提供一种可扩展的、模型无关的框架，适用于需要及时解释的高速机器学习应用场景。
• 提出一种新的决策边界与反事实轨迹可视化方法，以增强可解释性。

提出的方法

• SharpShooter 使用目标变分自编码器（VAE）将输入样本投影至潜在空间，使其重建输出分类为期望的目标类别。
• 通过在原始输入的潜在码与投影后的目标潜在码之间进行线性插值，生成反事实候选。
• 该方法利用两个 VAE：一个用于原始数据分布，另一个经过微调以在潜在空间中表示目标类别分布。
• 反事实从插值后的潜在向量中解码，并根据有效性、接近度、稀疏性和重建质量进行评估。
• 该框架为模型无关，完全在潜在空间中运行，从而实现高效的搜索与更好的泛化能力。
• 提出一种新颖的可视化技术，用于在联合潜在表示空间中映射决策边界与反事实轨迹。

实验结果

研究问题

• RQ1 与基于梯度的方法相比，潜在空间插值能否生成既真实又计算高效的反事实？
• RQ2 在表格数据和图像数据集中，通过潜在空间投影生成的反事实在稀疏性和与原始输入的接近度方面表现如何？
• RQ3 该方法在高维分类数据中对分类变量可行性的保持程度如何？
• RQ4 该方法能否生成既在样本内又语义上合理的反事实，避免产生类似对抗性扰动的改变？
• RQ5 潜在空间的结构在多大程度上影响了最终反事实解释的质量与可解释性？

主要发现

• 在所有数据集上，SharpShooter 的推理速度相比 GDL 和 GDI 最高提升 1,000 倍，Lending Club 数据集上的推理时间为 1.6×10⁻³ 秒，UCI 信用数据集上为 1×10⁻³ 秒。
• 在 UCI 信用数据集上，SharpShooter 的有效性得分为 0.505，接近度为 3.99，稀疏性为 0.309，真实性和可行性优于 GDL 和 GDI。
• 在 Lending Club 数据集上，SharpShooter 的有效性为 0.98，稀疏性为 0.49，重建损失（0.019）显著低于 GDI（0.037）和 GDL（0.015）。
• 图 4 和图 5 显示，与基于梯度的方法相比，SharpShooter 在连续变量和分类变量上的改变更真实——例如减少账单金额、提高按时付款比例，而基于梯度的方法则常产生极端或不合理的改变。
• 在低维潜在空间（2D）中，SharpShooter 保持了高有效性（0.98），并仅对贷款金额做出最小改动，而 GDL 则大幅改变了债务收入比和收入。
• 该方法在新颖度量下表现出更优的真实感，生成的反事实在语义上更合理且更具可操作性，尤其在分类特征空间中表现突出。