[论文解读] Leveraging directed causal discovery to detect latent common causes

Ciarán M. Lee, Christopher D. Hart+2 more|arXiv (Cornell University)|Oct 22, 2019

Bayesian Modeling and Causal Inference参考文献 27被引用 4

一句话总结

本文提出一种启发式方法，通过分析新型检验统计量Δ的方差和均值，将纯粹的有向因果发现算法——IGCI和KCDC——扩展以检测潜在的共同原因。改进后的算法在合成数据和真实世界数据中成功识别出共同原因，同时保持了在区分有向因果关系方面的高准确性。

ABSTRACT

The discovery of causal relationships is a fundamental problem in science and medicine. In recent years, many elegant approaches to discovering causal relationships between two variables from observational data have been proposed. However, most of these deal only with purely directed causal relationships and cannot detect latent common causes. Here, we devise a general heuristic which takes a causal discovery algorithm that can only distinguish purely directed causal relations and modifies it to also detect latent common causes. We apply our method to two directed causal discovery algorithms, the Information Geometric Causal Inference of (Daniusis et al., 2010) and the Kernel Conditional Deviance for Causal Inference of (Mitrovic, Sejdinovic, & Teh, 2018), and extensively test on synthetic data -- detecting latent common causes in additive, multiplicative and complex noise regimes -- and on real data, where we are able to detect known common causes. In addition to detecting latent common causes, our experiments demonstrate that both the modified algorithms preserve the performance of the original in distinguishing directed causal relations.

研究动机与目标

• 为解决现有因果发现算法无法检测潜在共同原因的局限性，而这类共同原因在真实世界数据（如医疗记录）中普遍存在。
• 开发一种通用启发式方法，增强纯粹有向因果发现方法，使其也能检测潜在混淆因子，且无需依赖加法噪声或线性等强假设。
• 在增加检测共同原因能力的同时，保持原始算法在区分有向因果关系方面的性能。
• 在多种合成数据场景（加法噪声、乘法噪声、复杂噪声）和具有已知共同原因的真实世界数据集上验证该方法。

提出的方法

• 该方法基于有向因果发现基线算法输出的检验统计量Δ的均值和方差，应用一种启发式阈值策略。
• 对于每对因果关系，算法通过多次运行计算Δ值，以估计因果方向得分分布的均值和方差。
• Δ的均值高且方差低表示有向因果关系；均值低且方差高则提示存在潜在共同原因。
• 该方法应用于两种最先进的算法：信息几何因果推断（IGCI）和核条件偏差因果推断（KCDC）。
• 区分有向关系与共同原因结构的阈值基于领域知识和实证分析设定，遵循先前工作（如CAN和KCDC）的原则。
• 该方法无需对基线算法进行重新训练或结构修改，仅需对其输出进行基于Δ统计量的后处理。

实验结果

研究问题

• RQ1 能否在不改变其核心结构的前提下，增强纯粹有向因果发现算法以检测潜在共同原因？
• RQ2 所提出的启发式方法在检测共同原因时，是否保持了原始算法在区分有向因果关系方面的准确性？
• RQ3 该方法在合成数据中不同噪声类型（加法、乘法、复杂）下的表现如何？
• RQ4 该方法能否在真实世界数据集（如乳腺癌威斯康星数据集和AutoMPG数据集）中正确识别出已知的共同原因？
• RQ5 Δ统计量的均值和方差如何可靠地区分有向因果结构与共同原因结构？

主要发现

• 在NLSchools数据集中，modKCDC的Δ均值为0.933，方差为0.007，表明社会经济地位对语言成绩存在有向因果关系，与真实情况一致。
• 在乳腺癌威斯康星数据集中，modKCDC和modIGCI的Δ均值分别为0.491和0.308，方差分别为0.081和0.062，均显示低均值与高方差，正确识别出周长与紧凑度之间的共同原因。
• 在AutoMPG数据集中，modKCDC的Δ均值为0.639，方差为0.086，表明加速度与每加仑英里数（MPG）之间存在共同原因；而modIGCI的均值为0.124，方差极低（0.00062），同样与共同原因一致。
• 改进后的算法在区分有向因果关系方面保持了高性能，modKCDC在图宾根因果对数据集上达到73%的准确率，modIGCI达到74%，与原始算法性能一致。
• Δ的启发式阈值在多种数据类型和噪声类型下均表现有效，展现出鲁棒性，且无需大量超参数调优。
• 该方法成功识别出真实世界数据中已知因果结构下的潜在共同原因，验证了其在医学和科学应用中的实际效用。