[论文解读] Causal Conclusions that Flip Repeatedly and Their Justification

Kevin T. Kelly, Conor Mayo‐Wilson|arXiv (Cornell University)|Mar 15, 2012

Bayesian Modeling and Causal Inference参考文献 10被引用 8

一句话总结

本文证明，在线性高斯或离散贝叶斯网络中，任何一致的因果发现方法在样本量增加时，其因果结论不可避免地会多次反转——这一现象被称为‘因果反转定理’。作者认为，最佳方法是那些最小化回溯次数的方法，并通过在不同样本量下的模拟实验验证了这一点。

ABSTRACT

Over the past two decades, several consistent procedures have been designed to infer causal conclusions from observational data. We prove that if the true causal network might be an arbitrary, linear Gaussian network or a discrete Bayes network, then every unambiguous causal conclusion produced by a consistent method from non-experimental data is subject to reversal as the sample size increases any finite number of times. That result, called the causal flipping theorem, extends prior results to the effect that causal discovery cannot be reliable on a given sample size. We argue that since repeated flipping of causal conclusions is unavoidable in principle for consistent methods, the best possible discovery methods are consistent methods that retract their earlier conclusions no more than necessary. A series of simulations of various methods across a wide range of sample sizes illustrates concretely both the theorem and the principle of comparing methods in terms of retractions.

研究动机与目标

• 研究在非实验数据设置下，一致因果发现方法的根本局限性。
• 证明此类方法的因果结论本质上不稳定，随着样本量增加，会反复反转。
• 基于回溯行为而非单纯一致性，为评估因果发现方法提供理论基础。
• 根据方法的回溯次数进行比较，倡导选择回溯次数最少的方法。
• 通过在多种样本量下进行的模拟实验，对反转现象和最小化回溯原则提供实证验证。

提出的方法

• 在线性高斯和离散贝叶斯网络背景下，对一致因果发现过程进行理论分析。
• 形式化证明因果反转定理，表明随着样本量增加，任何明确的因果结论都可能被反转任意有限次数。
• 将回溯次数作为评估因果发现方法质量的标准，优先选择回溯最少的方法。
• 通过广泛范围的样本量进行模拟实验，说明因果结论反转的频率和性质。
• 在数据量不断增加的情况下，比较多种因果发现算法的回溯行为。
• 应用形式学习理论原则，评估因果推断过程的可靠性与收敛行为。

实验结果

研究问题

• RQ1 一致的因果发现方法能否避免在样本量增加时反转其结论？
• RQ2 在非实验数据中，一致推断方法下因果结论在多大程度上会因样本量增加而反复反转？
• RQ3 除了单纯的一致性之外，应使用何种标准来评估因果发现算法的质量？
• RQ4 不同算法和样本量下，因果结论的回溯次数有何变化？
• RQ5 最小化回溯的原则是否能在实践中带来更可靠的因果发现？

主要发现

• 因果反转定理表明，任何一致方法得出的明确因果结论，随着样本量增加，都可能被反转任意有限次数。
• 由于结论反转的不可避免性，因果发现无法在固定样本量下实现稳定结论意义上的可靠性。
• 模拟实验证实，不同方法和样本量下因果结论均会反复反转，验证了理论结果。
• 不同方法的回溯次数存在显著差异，最小化回溯是一个可行的方法选择标准。
• 即使仍会反转结论，回溯次数较少的一致方法更优，因其表现出更高的稳定性。
• 本研究为基于最小化回溯而非单纯一致性的因果发现方法评估提供了正式依据。