[논문 리뷰] On sampling graphical Markov models

Megan Bernstein, Prasad Tetali|arXiv (Cornell University)|2017. 05. 26.

Markov Chains and Monte Carlo Methods참고 문헌 14인용 수 6

한 줄 요약

이 논문은 마르코프 등가 클래스 내에서 DAG의 균일한 표본 추출을 위한 마르코프 체인을 제안하고, 그 혼합 시간을 분석한다. 체인이 다항 시간 내에 혼합되는 조건을 규명하면서, 큰 상호 겹침을 가진 클리크가 존재할 경우 지수적 속도 저하가 발생함을 보여준다. 주요 기여는 빠른 혼합 조건의 구조적 특성화와 허, 자이, 유가 제안한 관련 체인의 에르고딕성에 대한 증명이다.

ABSTRACT

We consider sampling and enumeration problems for Markov equivalence classes. We create and analyze a Markov chain for uniform random sampling on the DAGs inside a Markov equivalence class. Though the worst case is exponentially slow mixing, we find a condition on the Markov equivalence class for polynomial time mixing. We also investigate the ratio of Markov equivalence classes to DAGs and a Markov chain of He, Jia, and Yu for random sampling of sparse Markov equivalence classes.

연구 동기 및 목표

• 마르코프 등가 클래스 내에서 DAG를 균일하게 표본 추출하기 위한 마르코프 체인을 개발하고 분석한다.
• 체인이 다항 시간 내에 혼합되는 조건을 규명하여 지수적 속도 저하를 피한다.
• 포지티브 순서 집합 기반의 구조 정리에 기반해 DAG 수와 마르코프 등가 클래스 수의 비율을 조사한다.
• 희박한 마르코프 등가 클래스를 표본 추출하기 위해 허, 자이, 유가 제안한 마르코프 체인의 에르고딕성에 대한 더 단순한 증명을 제공한다.
• 해밍 거리가 크지만 체인 경로 길이가 짧은 반례를 통해 캐논컬 패스 및 커플링 기법의 한계를 시연한다.

제안 방법

• 마르코프 등가 클래스의 기본 그래프 표현에서 무방향 간선에 대한 엣지 플립을 수행하는 가역 마르코프 체인을 설계한다.
• 모든 DAG를 포함하는 기본 그래프(지향 및 무방향 간선을 가진 PDAG)를 사용하여 마르코프 등가 클래스를 표현한다.
• 유도된 부분그래프를 통한 보호된 엣지의 특성화를 적용하여 엣지 플립이 기본 그래프 성질을 유지함을 보장한다.
• 포지티브 순서 집합 기반의 구조 정리를 활용해 DAG 수와 마르코프 등가 클래스 수의 비율을 분석한다.
• 임의의 두 기본 그래프가 해밍 거리가 1일 경우 길이가 최대 2인 경로로 연결됨을 보여, 허, 자이, 유 체인의 에르고딕성을 증명한다.
• 해밍 거리가 2이지만 연결하기 위해 Ω(n)회의 이동이 필요한 반례를 구성하여 표준 수렴 분석 기법의 한계를 보여준다.

실험 결과

연구 질문

• RQ1 마르코프 등가 클래스 내 DAG에 대한 엣지 플립 마르코프 체인이 어떤 조건에서 다항 시간 내에 혼합되는가?
• RQ2 큰 상호 겹침을 가진 클리크가 존재할 경우 표본 추출 체인의 혼합 시간에 어떤 영향을 미치는가?
• RQ3 주어진 그래프에서 DAG 수와 마르코프 등가 클래스 수 사이의 구조적 관계는 무엇인가?
• RQ4 희박한 마르코프 등가 클래스를 표본 추출하기 위해 허, 자이, 유가 제안한 마르코프 체인의 에르고딕성은 더 단순하게 증명할 수 있는가?
• RQ5 왜 표준 수렴 분석 기법인 캐논컬 패스 또는 커플링 기법은 허, 자이, 유 체인의 혼합 시간 분석에 효과적이지 않은가?

주요 결과

• 제안된 마르코프 체인은 기저 그래프에 큰 상호 겹침을 가진 클리크가 존재하지 않을 경우, 마르코프 등가 클래스 내 DAG 표본 추출에서 다항 시간 내에 혼합된다.
• 기본 그래프에 크고 상당한 교차를 가진 클리크가 존재할 경우 체인이 지수적으로 느리게 혼합된다(약 절반 크기의 교차).
• 포지티브 순서 집합 기반의 구조 정리를 통해 DAG 수와 마르코프 등가 클래스 수의 비율에 대한 깊이 있는 분석이 가능하지만, 정확한 수세기 문제의 해결은 열려 있다.
• 논문은 희박한 마르코프 등가 클래스를 표본 추출하기 위해 허, 자이, 유가 제안한 마르코프 체인의 에르고딕성에 대한 더 짧고 단순한 증명을 제공한다.
• 반례를 통해 해밍 거리가 2이지만 연결하기 위해 Ω(n)회의 이동이 필요한 두 기본 그래프가 존재함을 보여, 표준 경로 기반 수렴 분석 기법이 성공할 가능성이 낮음을 시사한다.
• 허, 자이, 유가 제안한 체인이 에르고딕함을 입증하였으며, 최대 한 개의 간선만 다를 수 있는 임의의 두 기본 그래프 사이에는 길이가 최대 2인 경로가 존재한다.