[论文解读] Backtracking Counterfactuals

Julius von Kügelgen, Abdirisak Mohamed+1 more|arXiv (Cornell University)|Nov 1, 2022

Explainable Artificial Intelligence (XAI)被引用 4

一句话总结

本文首次在结构因果模型（SCM）框架内为回溯反事实提供了通用的形式语义，其中反事实结果源于对前因变量（初始条件）的最小修改，而非对结构方程的干预。该文引入了一种回溯条件句以形式化世界之间的相似性，并证明回溯反事实特别适用于诊断推理、根本原因分析和公平性评估——为标准干预式反事实提供了一种互补的替代方案。

ABSTRACT

Counterfactual reasoning -- envisioning hypothetical scenarios, or possible worlds, where some circumstances are different from what (f)actually occurred (counter-to-fact) -- is ubiquitous in human cognition. Conventionally, counterfactually-altered circumstances have been treated as "small miracles" that locally violate the laws of nature while sharing the same initial conditions. In Pearl's structural causal model (SCM) framework this is made mathematically rigorous via interventions that modify the causal laws while the values of exogenous variables are shared. In recent years, however, this purely interventionist account of counterfactuals has increasingly come under scrutiny from both philosophers and psychologists. Instead, they suggest a backtracking account of counterfactuals, according to which the causal laws remain unchanged in the counterfactual world; differences to the factual world are instead "backtracked" to altered initial conditions (exogenous variables). In the present work, we explore and formalise this alternative mode of counterfactual reasoning within the SCM framework. Despite ample evidence that humans backtrack, the present work constitutes, to the best of our knowledge, the first general account and algorithmisation of backtracking counterfactuals. We discuss our backtracking semantics in the context of related literature and draw connections to recent developments in explainable artificial intelligence (XAI).

研究动机与目标

• 在结构因果模型（SCM）框架内形式化回溯反事实，其中因果规律保持不变，差异源于初始条件的改变。
• 解决回溯反事实缺乏通用形式语义的问题，这些反事实在人类认知和心理推理中已被经验观察到。
• 提供一个形式化框架，作为干预式反事实的补充，尤其适用于干预不一致、不可行或与人类判断不符的情境。
• 在可解释人工智能（XAI）应用中实现价值，如根本原因分析和因果公平性评估，其中回溯推理更符合人类的诊断直觉。
• 引入一种回溯条件句，以形式化事实世界与反事实世界之间的相似性，允许上下文敏感且最小化的前因变量修改。

提出的方法

• 提出一种新的回溯条件句 $ P_B(\textbf{U}^* | \textbf{U}) = P(\textbf{U}^*) $，通过从其先验分布中重新采样前因变量来建模反事实世界，同时保持结构方程不变。
• 定义回溯反事实世界 $ w_B^* = (\text{M}, \textbf{u}^*) $，其中结构模型 M 保持不变，但背景条件 $ \textbf{u}^* $ 与事实 $ \textbf{u} $ 不同，且偏好最小变化。
• 使用世界之间的相似性度量来定义回溯条件句，允许反映领域假设的上下文特定设计选择。
• 将回溯反事实概率形式化为 $ P_B(\tau(y^*) \geq \tau(y) \mid \textbf{U}_S^* = \textbf{u}_S, \textbf{U} = \textbf{u}) $，以量化对异常事件的贡献。
• 将回溯方法与现有XAI方法（如基于Shapley值的归因和保持结构的干预）相结合，以在不改变因果机制的情况下评估变量贡献。
• 提出一个统一框架，使同一SCM中可同时处理回溯和干预式反事实，支持在诊断与干预任务之间灵活推理。

实验结果

研究问题

• RQ1 如何在结构因果模型（SCM）框架内正式定义回溯反事实——其中因果规律保持固定，仅初始条件发生变化？
• RQ2 何种世界间相似性的概念能够支持对前因变量进行最小化、上下文敏感的修改？
• RQ3 在哪些推理情境中，回溯反事实优于干预式反事实，特别是在诊断或公平性相关任务中？
• RQ4 如何将回溯反事实整合到现有可解释人工智能（XAI）方法中，如根本原因分析和因果公平性评估？
• RQ5 能否构建一个统一框架，使回溯反事实与干预式反事实在同一个SCM中作为互补的推理模式共存？

主要发现

• 本文首次为SCM中的回溯反事实提供了通用形式语义，形式化了一种长期在人类认知中被观察到但此前缺乏严格基础的推理模式。
• 回溯反事实被证明在诊断推理中特别有效，例如通过改变前因变量而保持结构方程不变，以识别异常事件的根本原因。
• 该方法在干预不一致或不可行的情境中实现因果归因，例如涉及种族或性别等不可变属性的公平性分析。
• 回溯条件句 $ P_B(\textbf{U}^* | \textbf{U}) = P(\textbf{U}^*) $ 允许对初始条件进行有原则的、最小的扰动，形式化了‘最可能接近的世界’概念，而无需改变因果机制。
• 该框架支持XAI中的应用，包括通过重新采样前因变量下的反事实概率来量化变量对极端结果的贡献。
• 本研究确立了回溯反事实不适合用于识别因果结构，但在诊断和归因任务中极为有效，为干预式反事实提供了一种互补的替代方案。