[논문 리뷰] Counting and Sampling from Markov Equivalent DAGs Using Clique Trees

AmirEmad Ghassami, Saber Salehkaleybar외 2명|arXiv (Cornell University)|2018. 02. 05.

Bayesian Modeling and Causal Inference인용 수 10

한 줄 요약

이 논문은 방향 무사이클 그래프(DAG)의 마르코프 등가 클래스(MEC)를 세고 균일하게 샘플링하기 위한 새로운 클리크 트리 기반 방법을 제안한다. 이는 MEC 크기의 효율적 계산과 등가 클래스 내 DAG의 스토케스틱 샘플링을 가능하게 하며, 유계 차수 그래프에 대해 다항시간 복잡도를 달성하고 원인 인과 추론 및 사전 지식이 있는 실험 설계에 활용 가능하다.

ABSTRACT

A directed acyclic graph (DAG) is the most common graphical model for representing causal relationships among a set of variables. When restricted to using only observational data, the structure of the ground truth DAG is identifiable only up to Markov equivalence, based on conditional independence relations among the variables. Therefore, the number of DAGs equivalent to the ground truth DAG is an indicator of the causal complexity of the underlying structure--roughly speaking, it shows how many interventions or how much additional information is further needed to recover the underlying DAG. In this paper, we propose a new technique for counting the number of DAGs in a Markov equivalence class. Our approach is based on the clique tree representation of chordal graphs. We show that in the case of bounded degree graphs, the proposed algorithm is polynomial time. We further demonstrate that this technique can be utilized for uniform sampling from a Markov equivalence class, which provides a stochastic way to enumerate DAGs in the equivalence class and may be needed for finding the best DAG or for causal inference given the equivalence class as input. We also extend our counting and sampling method to the case where prior knowledge about the underlying DAG is available, and present applications of this extension in causal experiment design and estimating the causal effect of joint interventions.

연구 동기 및 목표

• 마르코프 등가 클래스(MEC)에 포함된 DAG 수를 체계적으로 세는 방법을 개발하여 원인 구조 복잡도를 측정한다.
• 원인 인과 추론 및 구조 학습을 위해 MEC에서 균일하게 샘플링할 수 있도록 하여 마르코프 체인 방법의 수렴 문제를 피한다.
• 기존의 DAG에 대한 사전 지식을 통합하여 원인 실험 설계 및 동시 간섭 효과 추정을 향상시키기 위해 프레임워크를 확장한다.
• 기존의 재귀 공식 및 마르코프 체인 방법에 비해 계산적으로 효율적인 대안을 제공하며, 특히 유계 차수 그래프에 대해 유리하다.

제안 방법

• 이 방법은 체이닝된 그래프의 클리크 트리 표현을 사용하여 본질적 그래프에서 간선을 체계적으로 탐색하고 방향을 정함으로써, 체인 구성요소의 재귀 분해를 활용한다.
• 각 체인 구성요소에서 루트 정점을 고정하고 최대 차수를 감소시킨 부분 그래프에 대해 크기 계산을 적용함으로써 MEC 크기를 재귀적으로 계산한다.
• 알고리즘은 클리크 트리의 구조를 활용하여 그래프를 더 작은 구성요소로 분할함으로써 병렬 처리 및 메모리 효율적인 계산을 가능하게 한다.
• 서브그래프 크기에 비례하는 확률을 할당하여 균일한 샘플링을 달성함으로써, MEC 내 모든 DAG가 동일한 확률로 선택되도록 보장한다.
• 기존 간선 방향 또는 구조적 제약 조건을 조건부로 설정함으로써 사전 지식을 통합하며, 이에 따라 계산 및 샘플링 프레임워크를 확장한다.
• 복잡도 분석 결과, 유계 차수 그래프에 대해 다항시간 성능을 보이며, 크기 계산의 시간 복잡도는 O(p^{Δ+2})이고 샘플링의 시간 복잡도는 O(Δp^{Δ+2})이다. 여기서 p는 정점 수이고 Δ는 최대 차수이다.

실험 결과

연구 질문

• RQ1 특히 유계 차수 그래프에 대해 마르코프 등가 클래스(MEC)의 크기를 효율적으로 계산할 수 있는 방법은 무엇인가?
• RQ2 마르코프 체인 몬테카를로 방법의 느린 혼합 및 수렴 문제를 피할 수 있는 MEC에 대한 균일 샘플링 방법을 개발할 수 있는가?
• RQ3 기존 DAG에 대한 사전 지식을 계산 및 샘플링 과정에 통합하여 원인 인과 추론을 향상시킬 수 있는가?
• RQ4 본질적 그래프의 구조적 성질과 그 클리크 트리 표현이 MEC 크기 계산을 위한 효율적 재귀 분해를 가능하게 하는가?

주요 결과

• 제안된 클리크 트리 기반 방법은 O(p^{Δ+2}) 시간 내에 마르코프 등가 클래스의 크기를 계산하며, 유계 차수 그래프에 대해 다항시간 복잡도를 달성한다.
• 이 방법은 O(Δp^{Δ+2})의 시간 복잡도로 MEC에서 균일하게 샘플링할 수 있으며, 각 DAG가 1/Size(G*)의 확률로 선택됨을 보장한다.
• 알고리즘은 하위 클래스에서 간선 방향을 체계적으로 제어할 수 있는 방법을 제공하여, 이전의 재귀 공식과 달리 명시적 방향 제어가 필요한 응용 분야에 적합하다.
• 느린 혼합 및 수렴 문제를 피하기 때문에 마르코프 체인 방법보다 우수하며, 재귀 수열 기반 기법에 비해 더 스케일러블한 대안을 제공한다.
• 사전 지식 통합을 지원하여 원인 실험 설계 및 동시 간섭 효과 추정 등 다양한 응용에 활용 가능하다.
• 이론적 분석을 통해 샘플링 절차가 귀납적 깊이에 따라 MEC 내 모든 DAG를 동일한 확률로 생성함을 증명하였다.