[论文解读] Computationally and statistically efficient learning of causal Bayes nets using path queries

Kevin Bello, Jean Honorio|arXiv (Cornell University)|Jun 2, 2017

Bayesian Modeling and Causal Inference参考文献 31被引用 4

一句话总结

本文提出了一种多项式时间算法，通过干预路径查询（即每次查询确定是否存在从源节点到目标节点的有向路径）来学习因果贝叶斯网络的精确、正确方向的结构。该方法在离散和连续网络中均实现了对数级样本复杂度，并以极低的计算成本恢复了传递边，从而实现了从干预数据中高效且统计一致的因果结构学习。

ABSTRACT

Causal discovery from empirical data is a fundamental problem in many scientific domains. Observational data allows for identifiability only up to Markov equivalence class. In this paper we first propose a polynomial time algorithm for learning the exact correctly-oriented structure of the transitive reduction of any causal Bayesian network with high probability, by using interventional path queries. Each path query takes as input an origin node and a target node, and answers whether there is a directed path from the origin to the target. This is done by intervening on the origin node and observing samples from the target node. We theoretically show the logarithmic sample complexity for the size of interventional data per path query, for continuous and discrete networks. We then show how to learn the transitive edges using also logarithmic sample complexity (albeit in time exponential in the maximum number of parents for discrete networks), which allows us to learn the full network. We further extend our work by reducing the number of interventional path queries for learning rooted trees. We also provide an analysis of imperfect interventions.

研究动机与目标

• 开发一种计算高效的算法，从干预数据中学习贝叶斯网络的精确因果结构。
• 在保持统计效率和高准确率的前提下，减少所需干预的数量。
• 为离散和连续网络实现每条路径查询的对数级样本复杂度。
• 以最小的计算开销高效恢复网络结构中的传递边。
• 将该方法扩展至根树结构，并分析不完美干预的影响。

提出的方法

• 该方法使用单节点干预来回答路径查询：判断是否存在从源节点到目标节点的有向路径。
• 它采用多项式时间算法，利用这些路径查询以高概率学习因果DAG的传递约简。
• 对于离散网络，使用时间复杂度为关于最大父节点数的指数函数的算法来恢复传递边；对于连续网络，则采用基于似然的方法。
• 该方法利用条件独立性检验和基于干预的采样来推断因果方向性。
• 通过利用树结构和路径查询特性，减少了根树结构中所需干预的数量。
• 该方法通过分析不完美干预对查询准确性和结构恢复的影响，来处理不完美干预。

实验结果

研究问题

• RQ1 我们能否仅通过路径查询，在多项式时间复杂度下学习因果贝叶斯网络的精确、正确方向的结构？
• RQ2 为确保以高概率恢复网络结构，每条路径查询所需的最小样本复杂度是多少？
• RQ3 在学习传递约简后，如何高效恢复传递边？
• RQ4 对于特定网络结构（如根树），是否可以减少干预数量？
• RQ5 不完美干预如何影响学习过程的准确性和样本复杂度？

主要发现

• 所有基准离散网络均实现了100%的边精确率、100%的边召回率和F1值为1.0，表明直接边和传递边均被完美恢复。
• 所有连续网络也均实现了100%的精确率、100%的召回率和F1值为1.0，证明了结构学习的一致性和准确性。
• 该方法在离散和连续网络中均实现了每条路径查询的对数级样本复杂度，确保了统计效率。
• 该算法成功从真实世界中的酿酒酵母和小鼠/人类基因扰动数据集中恢复了真实的因果结构，且节点影响模式具有生物学合理性。
• 对于根树结构，通过利用结构约束，显著减少了所需路径查询的数量。
• 理论分析表明，该方法在不完美干预下依然具有鲁棒性，在误差有界的情况下保持高准确率。