[论文解读] Counting and Sampling from Markov Equivalent DAGs Using Clique Trees

AmirEmad Ghassami, Saber Salehkaleybar+2 more|arXiv (Cornell University)|Feb 5, 2018

Bayesian Modeling and Causal Inference被引用 10

一句话总结

该论文提出了一种基于团树的新方法，用于计数和均匀采样有向无环图（DAG）的马尔可夫等价类（MEC），实现了对等价类中DAG数量的高效计算以及对等价类内DAG的随机枚举。该方法在度数有界的图上达到多项式时间复杂度，适用于因果推断和基于先验知识的实验设计。

ABSTRACT

A directed acyclic graph (DAG) is the most common graphical model for representing causal relationships among a set of variables. When restricted to using only observational data, the structure of the ground truth DAG is identifiable only up to Markov equivalence, based on conditional independence relations among the variables. Therefore, the number of DAGs equivalent to the ground truth DAG is an indicator of the causal complexity of the underlying structure--roughly speaking, it shows how many interventions or how much additional information is further needed to recover the underlying DAG. In this paper, we propose a new technique for counting the number of DAGs in a Markov equivalence class. Our approach is based on the clique tree representation of chordal graphs. We show that in the case of bounded degree graphs, the proposed algorithm is polynomial time. We further demonstrate that this technique can be utilized for uniform sampling from a Markov equivalence class, which provides a stochastic way to enumerate DAGs in the equivalence class and may be needed for finding the best DAG or for causal inference given the equivalence class as input. We also extend our counting and sampling method to the case where prior knowledge about the underlying DAG is available, and present applications of this extension in causal experiment design and estimating the causal effect of joint interventions.

研究动机与目标

• 开发一种系统化方法，用于计数马尔可夫等价类（MEC）中DAG的数量，以衡量因果结构的复杂度。
• 实现从MEC中进行均匀采样，以支持因果推断与结构学习，避免马尔可夫链方法存在的收敛问题。
• 将该框架扩展以整合关于底层DAG的先验知识，从而改进因果实验设计与联合干预效应估计。
• 提供一种计算效率更高的替代方案，以替代现有的递归公式与马尔可夫链方法，尤其适用于度数有界的图。

提出的方法

• 该方法利用弦图的团树表示，系统地探索并定向本质图中的边，通过链分量的递归分解实现。
• 通过在每个链分量中固定一个根顶点，并对最大度数降低的子图应用大小计算，递归计算MEC的大小。
• 该算法利用团树的结构将图划分为更小的组件，从而实现并行化与内存高效的计算。
• 通过将概率分配给与子图大小成比例的边，实现均匀采样，确保MEC中每个DAG被选中的概率相等。
• 通过条件化于已知的边方向或结构约束，将先验知识整合到计数与采样框架中，相应地扩展了方法。
• 复杂度分析表明，对于度数有界的图，该方法具有多项式时间性能，其中大小计算的时间复杂度为O(p^{Δ+2})，采样为O(Δp^{Δ+2})，其中p为顶点数，Δ为最大度数。

实验结果

研究问题

• RQ1 如何高效计算DAG的马尔可夫等价类（MEC）的大小，特别是对于度数有界的图？
• RQ2 能否开发一种MEC的均匀采样方法，以避免马尔可夫链蒙特卡洛方法存在的缓慢混合与收敛问题？
• RQ3 如何将关于底层DAG的先验知识整合到计数与采样过程中，以改进因果推断？
• RQ4 本质图及其团树表示的哪些结构特性，使得能够实现MEC大小计算的高效递归分解？

主要发现

• 所提出的基于团树的方法在O(p^{Δ+2})时间内计算马尔可夫等价类的大小，对于度数有界的图实现了多项式时间复杂度。
• 该方法实现了从MEC中均匀采样的能力，时间复杂度为O(Δp^{Δ+2})，确保每个DAG被选中的概率为1/Size(G*)。
• 该算法提供了一种系统化的方法来控制子类中的边方向，适用于需要显式方向控制的应用，而不同于以往的递归公式。
• 该方法通过避免缓慢混合与收敛问题，优于马尔可夫链方法，并为递归枚举技术提供了更具可扩展性的替代方案。
• 该方法支持先验知识的整合，使得其在因果实验设计与联合干预效应估计中具有应用潜力。
• 理论分析证实，采样过程通过在递归深度上进行归纳证明，确保了MEC中每个DAG被生成的概率相等。