[论文解读] Learning Sparse Causal Models is not NP-hard

Tom Claassen, Joris M. Mooij+1 more|arXiv (Cornell University)|Sep 26, 2013

Bayesian Modeling and Causal Inference参考文献 20被引用 51

一句话总结

本文证明了在节点度数有界为k的条件下学习稀疏因果模型并非NP难问题，表明即使存在隐变量和选择偏差，也能通过O(N^{2(k+2)})次独立性检验实现无误且完备的因果发现。作者提出了一种适用于独立性预言机的改进版FCI算法，并证明稀疏因果发现的计算复杂度低于学习最小贝叶斯网络。

ABSTRACT

This paper shows that causal model discovery is not an NP-hard problem, in the sense that for sparse graphs bounded by node degree k the sound and complete causal model can be obtained in worst case order N^{2(k+2)} independence tests, even when latent variables and selection bias may be present. We present a modification of the well-known FCI algorithm that implements the method for an independence oracle, and suggest improvements for sample/real-world data versions. It does not contradict any known hardness results, and does not solve an NP-hard problem: it just proves that sparse causal discovery is perhaps more complicated, but not as hard as learning minimal Bayesian networks.

研究动机与目标

• 在节点度数有界和存在隐变量等现实约束条件下，研究学习稀疏因果模型是否为NP难问题。
• 确定当图是稀疏且度数有界时，因果发现是否能在多项式时间内实现。
• 开发一种改进的FCI算法，以在这些条件下实现无误且完备的因果发现。
• 明确因果发现的计算复杂度相对于其他相关问题（如学习最小贝叶斯网络）的相对位置。

提出的方法

• 作者提出一种改进的FCI算法，专为与独立性预言机配合使用而设计，可在节点度数有界k的假设下实现无误且完备的因果发现。
• 该方法依赖于对条件独立性检验的系统性搜索，所需检验次数被限制在O(N^{2(k+2)})以内。
• 通过扩展标准FCI骨架发现和方向推导规则，算法考虑了隐性混杂因素和选择偏差的影响。
• 通过穷举测试所有可能的d-分离（至由k决定的有界深度），确保方法的完备性。
• 理论分析证明，尽管存在隐变量，该算法在N和k的多项式时间内终止。
• 该方法进一步扩展至基于样本的版本，并在有限样本设置下提出了实用化的改进建议。

实验结果

研究问题

• RQ1 在存在隐变量和选择偏差的情况下，学习节点度数有界为k的稀疏因果模型是否为NP难问题？
• RQ2 能否为这类模型构建一个在多项式时间内运行的无误且完备的因果发现算法？
• RQ3 稀疏因果发现的计算复杂度与学习最小贝叶斯网络相比如何？
• RQ4 FCI算法能否被修改以在度数约束下实现多项式时间性能？

主要发现

• 本文证明了在节点度数有界k的条件下学习稀疏因果模型并非NP难问题，因为所需独立性检验次数被限制在O(N^{2(k+2)})以内。
• 所提出的算法即使在存在隐变量和选择偏差的情况下，也能在多项式时间内实现无误且完备的因果发现。
• 该方法不与已知的NP难性结果矛盾，因为它在稀疏性与有界度数的特定约束下运行。
• 研究显示，稀疏因果发现的计算复杂度显著低于学习最小贝叶斯网络的复杂度。