[논문 리뷰] On perfectness in Gaussian graphical models

Arash A. Amini, Bryon Aragam외 1명|arXiv (Cornell University)|2019. 09. 03.

Bayesian Modeling and Causal Inference참고 문헌 13인용 수 4

한 줄 요약

이 논문은 가우시안 그래픽 모델(GGMs)의 직접적이고 투명한 매개변수화를 제공하여, 거의 모든 GGMs가 '완전(perfect)'하다는 것을 증명한다. 즉, 분포상의 조건부 이상독립성과 그래프 상의 분리가 정확히 일치한다. Lnička와 Matúš의 구성 방식을 확장함으로써, 저자들은 GGMs의 강한 완전성을 확립하고, 완전하지 않은 공분산 행렬의 집합을 특성화하여, 그래프 제약 조건이 있는 양의 정부호 행렬에 대한 몬테카를로 샘플링을 위한 구축 가능한 프레임워크를 제공한다.

ABSTRACT

Knowing when a graphical model is perfect to a distribution is essential in order to relate separation in the graph to conditional independence in the distribution, and this is particularly important when performing inference from data. When the model is perfect, there is a one-to-one correspondence between conditional independence statements in the distribution and separation statements in the graph. Previous work has shown that almost all models based on linear directed acyclic graphs as well as Gaussian chain graphs are perfect, the latter of which subsumes Gaussian graphical models (i.e., the undirected Gaussian models) as a special case. However, the complexity of chain graph models leads to a proof of this result which is indirect and mired by the complications of parameterizing this general class. In this paper, we directly approach the problem of perfectness for the Gaussian graphical models, and provide a new proof, via a more transparent parametrization, that almost all such models are perfect. Our approach is based on, and substantially extends, a construction of Lněnička and Matúš showing the existence of a perfect Gaussian distribution for any graph.

연구 동기 및 목표

• 幾乎 모든 가우시안 그래픽 모델(GGMs)이 완전함을 입증하는 것, 즉 분포상의 조건부 이상독립성이 그래프 상의 분리와 정확히 일치함을 의미한다.
• 사슬 그래프 모델에서 사용된 간접적 방법에 비해 더 투명하고 직접적인 GGMs의 매개변수화를 제공하는 것.
• 완전하지 않은 공분산 행렬의 집합을 영집합(null set)으로 특성화하여, GGMs에서 완전성의 일반성에 대한 통찰을 제공하는 것.
• 그래프의 간선 집합에 지지되는 역공분산 행렬 위에 확률측도를 구성하여 몬테카를로 샘플링에 유용하게 사용하는 것.

제안 방법

• Lnička와 Matúš의 구축적 방법을 확장하여 GGM-Markovian 가우시안 분포의 전체 집합을 매개변수화하는 데 사용한다.
• 양의 정부호 행렬과 간선별 매개변수를 사용하는 새로운 매개변수화를 도입하여 마르코프 호환성을 보장한다.
• 순열 기반 순환 분해를 사용하여 공분산 행렬의 구조를 분석하고, 완전성이 실패하는 조건을 규명한다.
• 측도론적 추론을 적용하여, 완전하지 않은 분포 집합이 르베그 측도로 0을 가지며, 거의 모든 GGMs가 완전하다는 것을 증명한다.
• 영집합을 보존하고 푸시포워드 측도의 절대연속성을 증명하기 위해 미분동형 변환(diffeomorphic transformation)을 활용한다.
• 그래프의 간선 집합에 지지되는 역공분산 행렬 위에 확률측도를 유도하여, MCMC 알고리즘에서 제안 분포로 사용할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 거의 모든 가우시안 그래픽 모델이 완전한가? 즉, 분포상의 조건부 이상독립성이 정확히 그래프 상의 분리와 일치하는가?
• RQ2 간접적인 사슬 그래프 방법에 비해 더 직접적이고 투명한 GGMs의 매개변수화를 구성할 수 있는가? 이는 완전성 증명을 단순화할 수 있다.
• RQ3 GGMs에서 완전하지 않은 공분산 행렬의 집합의 구조는 어떻게 되며, 이를 영집합으로 특성화할 수 있는가?
• RQ4 시뮬레이션에 사용할 수 있도록 그래프의 간선 구조를 존중하는 역공분산 행렬 위에 확률측도를 구성할 수 있는가?

주요 결과

• 거의 모든 가우시안 그래픽 모델은 완전하며, 분포상의 조건부 이상독립성 문장과 그래프 상의 분리 문장 사이에 일대일 대응이 존재한다.
• 완전하지 않은 공분산 행렬의 집합은 르베그 영집합을 이룬다. 이는 GGMs에서 완전성이 일반적임을 확인한다.
• Lnička와 Matúš의 작업을 확장하여, GGM-Markovian 분포에 대한 새로운 직접적 매개변수화를 개발하였다.
• 논문은 그래프의 간선 집합에 지지되는 역공분산 행렬 위에 확률측도를 구성하였으며, 몬테카를로 방법에서 제안 분포로 사용할 수 있도록 하였다.
• 증명 기법은 완전하지 않은 분포의 영집합에 대한 구축적 기술을 제공하여, 모델링과 추정에 대한 직관을 향상시켰다.
• 측도론적 추론은 르베그 측도가 매개변수화 지ap에 의해 푸시포워드된 측도가 절대연속적임을 확인하여, 일반적인 완전성을 보장한다.