[论文解读] Adjacency-Faithfulness and Conservative Causal Inference

Joseph Ramsey, Jiji Zhang+1 more|arXiv (Cornell University)|Jun 27, 2012

Bayesian Modeling and Causal Inference被引用 56

一句话总结

本文提出了保守PC（CPC）算法，通过仅要求邻接性-信仰一致性（Adjacency-Faithfulness）来放松标准因果信仰一致性假设，即确保数据中的所有条件独立关系都反映在骨架结构中。CPC在边定向过程中测试定向-信仰一致性（Orientation-Faithfulness）；若该条件被违反，则避免推断可能错误的因果方向。该方法在较弱假设下保持高准确性，同时在有限样本中显著减少了虚假箭头数量，且运行速度几乎与原始PC算法相当。

ABSTRACT

Most causal inference algorithms in the literature (e.g., Pearl (2000), Spirtes et al. (2000), Heckerman et al. (1999)) exploit an assumption usually referred to as the causal Faithfulness or Stability condition. In this paper, we highlight two components of the condition used in constraint-based algorithms, which we call "Adjacency-Faithfulness" and "Orientation-Faithfulness". We point out that assuming Adjacency-Faithfulness is true, it is in principle possible to test the validity of Orientation-Faithfulness. Based on this observation, we explore the consequence of making only the Adjacency-Faithfulness assumption. We show that the familiar PC algorithm has to be modified to be (asymptotically) correct under the weaker, Adjacency-Faithfulness assumption. Roughly the modified algorithm, called Conservative PC (CPC), checks whether Orientation-Faithfulness holds in the orientation phase, and if not, avoids drawing certain causal conclusions the PC algorithm would draw. However, if the stronger, standard causal Faithfulness condition actually obtains, the CPC algorithm is shown to output the same pattern as the PC algorithm does in the large sample limit. We also present a simulation study showing that the CPC algorithm runs almost as fast as the PC algorithm, and outputs significantly fewer false causal arrowheads than the PC algorithm does on realistic sample sizes. We end our paper by discussing how score-based algorithms such as GES perform when the Adjacency-Faithfulness but not the standard causal Faithfulness condition holds, and how to extend our work to the FCI algorithm, which allows for the possibility of latent variables.

研究动机与目标

• 解决依赖于强因果信仰一致性假设的标准因果推断算法所存在的过度乐观问题。
• 在基于约束的因果发现中，识别并分离信仰一致性的两个组成部分——邻接性-信仰一致性与定向-信仰一致性。
• 开发一种保守算法，当定向-信仰一致性不成立时避免错误的因果方向推断，同时在标准信仰一致性条件下保持正确性。
• 评估修改后算法在真实样本规模下的性能，特别是减少虚假因果箭头的能力。
• 探讨在存在潜变量时，如GES等评分方法以及FCI算法的扩展所面临的含义。

提出的方法

• 本文将标准因果信仰一致性假设分解为两部分：邻接性-信仰一致性（数据中的所有条件独立关系均反映在骨架中）与定向-信仰一致性（骨架中的所有d-分离关系均能导致边的正确定向）。
• 提出保守PC（CPC）算法，通过在定向阶段增加定向-信仰一致性测试，对PC算法进行修改。
• 若定向-信仰一致性被违反，CPC将避免绘制原本由标准PC算法推断出的某些因果方向。
• 该算法在邻接性-信仰一致性下保持与PC算法相同的骨架结构，仅在定向-信仰一致性不成立时限制定向决策。
• CPC算法在较弱的邻接性-信仰一致性假设下渐近正确，且当更强的标准信仰一致性条件成立时，其输出与PC算法一致。
• 通过模拟研究比较CPC与PC在有限样本下的表现，测量虚假箭头率和运行时间性能。

实验结果

研究问题

• RQ1 在假设邻接性-信仰一致性成立的前提下，能否对定向-信仰一致性进行经验检验？
• RQ2 仅依赖邻接性-信仰一致性而非完整因果信仰一致性条件，会带来何种后果？
• RQ3 如何使基于约束的因果发现算法更具保守性，以避免错误的因果方向推断？
• RQ4 所提出的保守算法在有限样本设置下是否仍能保持高准确率和高效率？
• RQ5 当仅满足邻接性-信仰一致性而非完整信仰一致性条件时，如GES等评分方法的行为如何？

主要发现

• CPC算法在较弱的邻接性-信仰一致性假设下渐近正确，确保在标准信仰一致性不成立时仍能实现有效的因果结构学习。
• 当标准因果信仰一致性条件成立时，CPC在大样本极限下与PC算法产生相同的输出。
• 在有限样本中，CPC显著减少了虚假因果箭头的数量，相比标准PC算法表现更优。
• CPC算法的运行速度几乎与PC算法相当，表明其保守性检查带来的计算开销极小。
• 本文证明了在邻接性-信仰一致性假设下，定向-信仰一致性可被经验检验，从而支持一种有原则的保守推断策略。
• 研究结果表明，将CPC方法扩展至FCI算法是可行的，且可能在存在潜共因变量的情况下提升算法的鲁棒性。