[论文解读] On the Connections between Counterfactual Explanations and Adversarial Examples.

Martin Pawelczyk, Shalmali Joshi+3 more|arXiv (Cornell University)|Jun 18, 2021

Adversarial Robustness in Machine Learning参考文献 33被引用 5

一句话总结

本文在理论上和实证上建立了反事实解释与对抗样本之间的联系，证明在特定条件下，多种主流方法（如 Wachter 等人和 Carlini & Wagner 使用均方误差损失的方法）在数学上是等价的。研究进一步为线性模型中反事实解释与对抗样本之间的距离提供了理论边界，并在合成数据集和真实世界数据集上验证了这些发现。

ABSTRACT

Counterfactual explanations and adversarial examples have emerged as critical research areas for addressing the explainability and robustness goals of machine learning (ML). While counterfactual explanations were developed with the goal of providing recourse to individuals adversely impacted by algorithmic decisions, adversarial examples were designed to expose the vulnerabilities of ML models. While prior research has hinted at the commonalities between these frameworks, there has been little to no work on systematically exploring the connections between the literature on counterfactual explanations and adversarial examples. In this work, we make one of the first attempts at formalizing the connections between counterfactual explanations and adversarial examples. More specifically, we theoretically analyze salient counterfactual explanation and adversarial example generation methods, and highlight the conditions under which they behave similarly. Our analysis demonstrates that several popular counterfactual explanation and adversarial example generation methods such as the ones proposed by Wachter et. al. and Carlini and Wagner (with mean squared error loss), and C-CHVAE and natural adversarial examples by Zhao et. al. are equivalent. We also bound the distance between counterfactual explanations and adversarial examples generated by Wachter et. al. and DeepFool methods for linear models. Finally, we empirically validate our theoretical findings using extensive experimentation with synthetic and real world datasets.

研究动机与目标

• 系统性地探索反事实解释与对抗样本生成之间的理论联系，这两个领域是机器学习可解释性与鲁棒性研究的关键方向。
• 识别广泛使用的反事实解释与对抗样本生成方法产生等价结果的条件。
• 为线性模型中反事实解释与对抗样本之间的距离提供正式的理论边界。
• 利用合成数据集和真实世界数据集对理论发现进行实证验证。

提出的方法

• 对具有代表性的反事实解释与对抗样本生成方法进行理论分析，重点关注优化目标与约束条件。
• 形式化推导 Wachter 等人与 Carlini & Wagner（使用均方误差损失）方法之间的等价性，以及 Zhao 等人提出的 C-CHVAE 与自然对抗样本之间的等价性。
• 为线性模型中 Wachter 等人生成的反事实解释与 DeepFool 方法生成的对抗样本之间的距离推导出理论上的上界。
• 使用合成数据集和真实世界数据集进行实证评估，以验证理论上的等价性与边界。
• 在理论分析中，将均方误差损失作为统一的目标函数，以揭示方法等价性的本质。
• 应用基于梯度的优化技术，在共享约束条件下生成反事实解释与对抗样本。

实验结果

研究问题

• RQ1 在何种条件下，反事实解释生成方法与对抗样本生成方法是等价的？
• RQ2 对于线性模型，生成的反事实解释与对抗样本在扰动距离上如何比较？
• RQ3 Wachter 等人与 Carlini & Wagner（使用均方误差损失）等方法在多大程度上产生相同或等价的输出？
• RQ4 在相同公式化框架下，C-CHVAE 与 Zhao 等人提出的自然对抗样本是否具有理论上的等价性？
• RQ5 理论等价性与边界在多样化数据集上的实际表现如何？

主要发现

• 在特定条件下，多种广泛使用的反事实解释与对抗样本生成方法（包括 Wachter 等人和 Carlini & Wagner 使用均方误差损失的方法）在理论上是等价的。
• 在相同的优化框架下，C-CHVAE 反事实生成方法与 Zhao 等人生成的自然对抗样本在理论上是等价的。
• 为线性模型中 Wachter 等人生成的反事实解释与 DeepFool 方法生成的对抗样本之间的距离，推导出了理论上的上界。
• 实证结果证实了在合成数据集和真实世界数据集上理论等价性的成立，验证了研究发现的一致性。
• 研究表明，损失函数的选择（尤其是均方误差）在统一反事实解释与对抗样本目标方面起着关键作用。
• 研究结果表明，可通过统一的视角研究模型鲁棒性与可追溯性，二者具有共享的优化动力学。