[论文解读] Counterfactual Explanations & Adversarial Examples - Common Grounds, Essential Differences, and Potential Transfers.

Timo Freiesleben|arXiv (Cornell University)|Sep 11, 2020

Adversarial Robustness in Machine Learning参考文献 16被引用 10

一句话总结

本文建立了反事实解释（CEs）与对抗性样本（AEs）之间的概念与数学联系，表明二者均源于同一优化问题。文章引入了可行反事实解释与对抗性反事实解释的区别，证明对抗性样本是对抗性反事实解释的一个特定子集，从而将反事实解释定位为更具普遍性的框架，具有更广泛的概念与实际意义。

ABSTRACT

The same optimization problem underlies counterfactual explanations (CEs) and adversarial examples (AEs). While this is well known, the relationship between the two at the conceptual level remains unclear. The present paper provides exactly the missing conceptual link. We compare CEs and AEs with respect to their philosophical basis, aims, and modeling techniques. We argue that CEs are a more general object-class than AEs. In particular, we introduce the conceptual distinction between feasible and contesting CEs and show that AEs correspond to the latter.

研究动机与目标

• 澄清反事实解释（CEs）与对抗性样本（AEs）之间的概念关系，尽管二者均源于同一优化问题，但长期处于概念脱节状态。
• 识别并形式化反事实解释与对抗性样本在哲学基础、目标导向与建模方法上的差异。
• 证明反事实解释是更广泛的解释类别，而对抗性样本是其特定且受限的子集。
• 引入并定义可行反事实解释与对抗性反事实解释之间的区别，为理解对抗性样本提供新的概念视角。

提出的方法

• 使用统一的数学框架，形式化反事实解释与对抗性样本所共有的优化问题。
• 提出“可行反事实解释”的概念——即在现实情境中真实且可操作的反事实。
• 将“对抗性反事实解释”定义为通过最小扰动挑战模型决策的反事实，使其与对抗性样本对齐。
• 利用此分类体系，证明对抗性样本是对抗性反事实解释的一个特例，其中扰动极小且不可察觉。
• 分析反事实解释与对抗性样本的哲学基础，对比其目标：可解释性 vs. 模型鲁棒性。
• 建立一个概念层级结构，使反事实解释可涵盖对抗性样本作为其特定且受约束的子类。

实验结果

研究问题

• RQ1 尽管反事实解释与对抗性样本共享相同的优化基础，它们之间的概念关系是什么？
• RQ2 即使源自同一数学问题，反事实解释与对抗性样本在哲学目标与建模目标上存在哪些差异？
• RQ3 为何区分可行反事实解释与对抗性反事实解释对于理解对抗性样本至关重要？
• RQ4 对抗性样本在何种意义上是反事实解释的一个特例？
• RQ5 反事实解释的洞见能否提升机器学习模型的鲁棒性，反之亦然？

主要发现

• 反事实解释的类别比对抗性样本更广泛，对抗性样本是通过极小且不可察觉的扰动定义的特定子集。
• 可行反事实解释与对抗性反事实解释之间的区分，提供了一个概念框架，阐明了对抗性样本作为极端且不可操作的反事实形式的本质。
• 对抗性样本恰好对应于在现实情境中不可行的对抗性反事实解释，凸显其缺乏实际可解释性。
• 共享的优化问题统一了反事实解释与对抗性样本，但其概念角色存在显著差异：反事实解释旨在实现可解释性与可操作性，而对抗性样本则聚焦于模型的脆弱性。
• 本文确立了对抗性样本在数学形式上与反事实解释并无本质不同，但其在实际与哲学意图上存在关键差异。