[论文解读] Causal Explanations and XAI

Sander Beckers|arXiv (Cornell University)|Jan 31, 2022

Explainable Artificial Intelligence (XAI)被引用 13

一句话总结

本文正式定义了因果解释——充分解释与反事实解释——并提出了一种新颖的、以行动为导向的实际因果关系定义，其基础是结构因果模型。它表明，与反事实相比，实际因果关系在行动指导方面提供了更强、更可靠的解释，并提出了一种基于实际因果关系的新公平性标准，该标准通过检测标准反事实依赖性无法识别的不公平因果影响，改进了路径特定的反事实公平性。

ABSTRACT

Although standard Machine Learning models are optimized for making predictions about observations, more and more they are used for making predictions about the results of actions. An important goal of Explainable Artificial Intelligence (XAI) is to compensate for this mismatch by offering explanations about the predictions of an ML-model which ensure that they are reliably action-guiding. As action-guiding explanations are causal explanations, the literature on this topic is starting to embrace insights from the literature on causal models. Here I take a step further down this path by formally defining the causal notions of sufficient explanations and counterfactual explanations. I show how these notions relate to (and improve upon) existing work, and motivate their adequacy by illustrating how different explanations are action-guiding under different circumstances. Moreover, this work is the first to offer a formal definition of actual causation that is founded entirely in action-guiding explanations. Although the definitions are motivated by a focus on XAI, the analysis of causal explanation and actual causation applies in general. I also touch upon the significance of this work for fairness in AI by showing how actual causation can be used to improve the idea of path-specific counterfactual fairness.

研究动机与目标

• 在XAI中通过将充分解释与反事实解释形式化为因果概念，以支持以行动为导向的解释。
• 以完全基于以行动为导向的解释和因果结构的方式定义实际因果关系。
• 通过用实际因果关系替代反事实依赖性来改进AI中的公平性评估。
• 表明在诸如公平性审计等回溯性情境中，实际因果关系比反事实提供了更准确、更可靠的解释。
• 为将因果关系整合到XAI中建立概念基础，其范围超越模型可解释性，延伸至现实世界中的行动与公平性。

提出的方法

• 使用具有外生变量和内生变量的结构因果模型（SCMs）来形式化因果关系。
• 将充分解释定义为在干预下能保证特定结果的一组条件。
• 将反事实解释定义为会改变已观测结果的干预。
• 将实际因果关系引入为满足充分性与反事实敏感性条件的因果与结果之间的关系。
• 提出一种基于实际因果关系的公平性标准，形式化为因果网络上的确定性条件，适用于不公平路径。
• 将该框架应用于反事实公平性示例，表明实际因果关系可在标准反事实失败时检测到偏差。

实验结果

研究问题

• RQ1 如何在因果框架内正式定义充分解释与反事实解释，以支持XAI中的以行动为导向的解释？
• RQ2 实际因果关系与反事实或充分解释有何区别，为何其更适合于可靠的行动指导？
• RQ3 如何利用实际因果关系在现有反事实公平性定义之外改进AI中的公平性评估？
• RQ4 在诸如公平性审计等回溯性情境中，实际因果关系在哪些方面提供了更准确的解释？
• RQ5 基于实际因果关系的公平性标准是否能在标准反事实依赖性无法检测到的情况下，仍能识别出不公平影响？

主要发现

• 本文首次提出了完全基于以行动为导向的解释的实际因果关系的正式定义，使其与单纯的反事实或充分条件区分开来。
• 研究表明，实际因果关系比反事实解释更具信息量，因为它以情境敏感的方式识别出既必要又充分的因果因素。
• 在一个受保护变量（例如宗教信仰）通过一系列因果机制导致负面招聘结果的案例中，实际因果关系正确地将其识别为不公平，即使标准反事实依赖性未能识别出。
• 所提出的基于实际因果关系的公平性标准——沿不公平路径的实际因果关系——在路径特定反事实公平性失效的场景中检测到了偏差，例如在具有冲突拒绝规则的二值招聘模型中。
• 该框架揭示了反事实公平性可能过于宽松，因为它可能将一个系统分类为公平，即使受保护变量通过不公平机制对结果产生因果影响。
• 结果表明，与仅依赖反事实依赖性相比，实际因果关系为公平性评估提供了更稳健、更直观的基础。