[论文解读] Nested Counterfactual Identification from Arbitrary Surrogate Experiments

Juan D. Correa, Sanghack Lee+1 more|arXiv (Cornell University)|Dec 6, 2021

Bayesian Modeling and Causal Inference被引用 1

一句话总结

本文提出了一套完整的框架，用于从任意组合的观察数据和实验数据中识别嵌套反事实。它建立了反事实去嵌套定理（CUT），将复杂的嵌套反事实转化为非嵌套形式，提供了识别的必要且充分的图示条件，并提出了一种高效且完备的算法，可确定性地判断识别是否成立。

ABSTRACT

The Ladder of Causation describes three qualitatively different types of activities an agent may be interested in engaging in, namely, seeing (observational), doing (interventional), and imagining (counterfactual) (Pearl and Mackenzie, 2018). The inferential challenge imposed by the causal hierarchy is that data is collected by an agent observing or intervening in a system (layers 1 and 2), while its goal may be to understand what would have happened had it taken a different course of action, contrary to what factually ended up happening (layer 3). While there exists a solid understanding of the conditions under which cross-layer inferences are allowed from observations to interventions, the results are somewhat scarcer when targeting counterfactual quantities. In this paper, we study the identification of nested counterfactuals from an arbitrary combination of observations and experiments. Specifically, building on a more explicit definition of nested counterfactuals, we prove the counterfactual unnesting theorem (CUT), which allows one to map arbitrary nested counterfactuals to unnested ones. For instance, applications in mediation and fairness analysis usually evoke notions of direct, indirect, and spurious effects, which naturally require nesting. Second, we introduce a sufficient and necessary graphical condition for counterfactual identification from an arbitrary combination of observational and experimental distributions. Lastly, we develop an efficient and complete algorithm for identifying nested counterfactuals; failure of the algorithm returning an expression for a query implies it is not identifiable.

研究动机与目标

• 解决在仅有观察数据和干预数据可用时，推断反事实结果（即在不同行为下本会发生什么）的挑战。
• 克服现有方法在处理嵌套反事实时的局限性，尤其是在中介分析和公平性分析等应用中的困难。
• 为从任意混合的观察和实验分布中识别任意嵌套反事实查询，提供一个形式化且完备的解决方案。
• 建立反事实识别的必要且充分的图示条件，以精确判断此类推断在何时可能实现。
• 开发一种算法，要么返回一个有效的识别表达式，要么明确证明不存在此类表达式。

提出的方法

• 提出嵌套反事实的形式化定义，以明确其在因果推理中的结构和语义。
• 证明反事实去嵌套定理（CUT），该定理利用结构因果模型，将任意嵌套反事实简化为等价的非嵌套表达式。
• 基于因果图结构，定义一个图示准则，该准则对从混合数据中进行反事实识别而言是必要且充分的。
• 设计一种算法，系统性地检查图示条件，并通过do-演算和潜在结果的符号运算构造识别表达式。
• 确保该算法具有完备性：若其未能返回表达式，则可证明该查询在逻辑上不可识别。
• 利用因果阶梯的结构，将反事实推理建模为跨层问题，即从干预（do）推理到反事实（给定-如果）推理。

实验结果

研究问题

• RQ1 在何种条件下，可以从任意组合的观察和实验分布中识别嵌套反事实查询？
• RQ2 是否可以系统性地将任意嵌套反事实转换为非嵌套形式，以简化识别过程？
• RQ3 是否存在一种完备且高效的算法，可判断给定的反事实查询是否能从混合数据中识别？
• RQ4 何种图示结构刻画了可识别反事实查询的集合？
• RQ5 该框架如何应用于现实世界问题，如中介分析和公平性评估？

主要发现

• 反事实去嵌套定理（CUT）提供了一种正式方法，可将任意嵌套反事实转换为等价的非嵌套表达式，从而可应用现有识别技术。
• 为从混合观察和实验数据中进行反事实识别，建立了必要且充分的图示条件，解决了该领域长期存在的模糊性问题。
• 所提出的算法既完备又高效：若存在有效表达式，则返回它；否则，明确证明不可识别。
• 该框架使复杂反事实的识别成为可能，例如在中介和公平性分析中的直接效应、间接效应和虚假效应，这些传统上需要特殊处理。
• 结果表明，在明确定义的条件下，从混合数据中进行反事实推理是系统可解的，推动了因果推断领域的前沿进展。
• 该方法为因果阶梯中的跨层推理（特别是从干预到反事实）提供了一体化方法，并具有形式化保证。