[论文解读] Testing Conditional Independence on Discrete Data using Stochastic Complexity

Alexander Marx, Jilles Vreeken|arXiv (Cornell University)|Mar 12, 2019

Bayesian Modeling and Causal Inference参考文献 23被引用 11

一句话总结

本文提出SCI，一种基于随机复杂度的离散数据新型条件独立性检验方法，采用fNML变体估计条件互信息（CMI），实现更高的样本效率。SCI在CMI估计上渐近无偏且L₂一致，实证结果表明其在因果发现中显著优于现有方法（如G²和CMI_gamma阈值），在不损失精确度的前提下显著提升了召回率。

ABSTRACT

Testing for conditional independence is a core aspect of constraint-based causal discovery. Although commonly used tests are perfect in theory, they often fail to reject independence in practice, especially when conditioning on multiple variables. We focus on discrete data and propose a new test based on the notion of algorithmic independence that we instantiate using stochastic complexity. Amongst others, we show that our proposed test, SCI, is an asymptotically unbiased as well as $L_2$ consistent estimator for conditional mutual information (CMI). Further, we show that SCI can be reformulated to find a sensible threshold for CMI that works well on limited samples. Empirical evaluation shows that SCI has a lower type II error than commonly used tests. As a result, we obtain a higher recall when we use SCI in causal discovery algorithms, without compromising the precision.

研究动机与目标

• 为解决传统条件独立性检验在离散数据上性能不佳的问题，特别是在样本有限和条件维度较高时。
• 开发一种在估计条件互信息（CMI）时渐近无偏且L₂一致的检验方法。
• 提供一种基于数据的、原理清晰的CMI阈值，综合考虑样本量、取值域大小及经验概率分布。
• 通过减少II类错误，提升因果发现算法中的召回率，尤其在多变量条件化场景下。

提出的方法

• SCI基于算法条件独立性的概念，通过fNML（有限NML）分布实现随机复杂度的实例化。
• 该方法利用fNML分布估计CMI，其特点在于整合了条件变量的经验概率质量函数，区别于更简单的近似方法。
• SCI采用基于fNML分布的阈值判断统计显著性，避免依赖渐近近似或伽马分布分位数。
• 该方法被重新表述，以实现对CMI的合理、自适应的阈值，从而在样本有限时提升检测功效。
• 将基于fNML的变体（SCI_f）与qNML（SCI_q）、基于伽马分布的阈值（CMI_Γ）以及G²检验在多种实验设置下进行比较。
• 在合成数据和真实世界数据（如Alarm网络）上，使用稳定PC和PCMB算法的因果发现流程对方法进行了评估。

实验结果

研究问题

• RQ1 基于随机复杂度的方法是否能在离散数据上提供比现有方法（如G²或CMI_gamma阈值）更可靠、更强大的条件独立性检验？
• RQ2 fNML形式的随机复杂度是否能提供比qNML或经验估计等其他形式更准确、更一致的条件互信息（CMI）估计？
• RQ3 在多变量条件化、不同样本量和不同取值域大小下，SCI的I类和II类错误率表现如何？
• RQ4 SCI是否能在不降低精确度的前提下提升因果发现算法的召回率，特别是在高维条件化场景中？
• RQ5 SCI是否表现出亚线性样本复杂度，如理论结果所建议，且能否通过实证验证？

主要发现

• 在稳定PC算法的无向图上，SCI_f在F1分数上显著优于G²、CMI_Γ及其他基线方法，尤其在小样本量下表现突出。
• 在Alarm网络的马尔可夫毯发现任务中，SCI_f的召回率高于所有对比方法，尤其在条件化变量集较大时优势明显。
• 在取值域大小逐渐增加（最高达20）的合成数据上，仅SCI_f保持高准确率，而其他检验方法的假阳性率高达100%，准确率下降至50%。
• 与标准检验相比，SCI_f显著降低了II类错误，尤其在高噪声和低样本量环境下，提升了对真实条件独立性的检测能力。
• 实证结果表明SCI具有亚线性样本复杂度，该特性未来可进一步通过理论分析验证。
• SCI_f是唯一在不同取值域大小和样本量下均保持高性能的方法，展现出对数据稀疏性和高条件维度的强鲁棒性。