[논문 리뷰] Bayesian Inference of Graphical Model Structures Using Trees

Loïc Schwaller, Stéphane Robin외 1명|arXiv (Cornell University)|2015. 04. 10.

Bayesian Modeling and Causal Inference참고 문헌 24인용 수 9

한 줄 요약

이 논문은 행렬-나무 정리(Matrix-Tree Theorem)를 사용하여 정확한 간선 사후 확률 계산가능성을 보장하면서도, 탐색 공간을 스패닝 트리로 제한함으로써 비순향 그래픽 모델 구조를 베이지안 방법으로 학습하는 방법을 제안한다. 단순화된 트리 가정에도 불구하고, 합성 데이터와 플로우 세포계측 데이터에서 정확한 구조 복원을 달성한다.

ABSTRACT

We propose to learn the structure of an undirected graphical model by computing exact posterior probabilities for local structures in a Bayesian framework. This task would be untractable without any restriction on the considered graphs. We limit our exploration to the spanning trees and define priors on tree structures and parameters that allow fast and exact computation of the posterior probability for an edge to belong to the random tree thanks to an algebraic result called the Matrix-Tree theorem. We show that the assumption we have made does not prevent our approach to perform well on synthetic and flow cytometry data.

연구 동기 및 목표

• 정확한 베이지안 추론 하에서 비순향 그래픽 모델 구조를 학습하기 위한 계산적으로 타당한 방법을 개발하기 위해.
• 후보 그래프를 스패닝 트리로 제한함으로써, 구조 학습에서 발생하는 계산 비용 문제를 해결하기 위해.
• 트리 구조와 모델 파라미터에 대해 공액 사전을 정의함으로써 간선 포함 여부에 대한 정확하고 신속한 사후 확률 계산이 가능하도록 하기 위해.
• 트리 제한이 실제 데이터와 합성 데이터에서의 성능에 영향을 미치는지 평가하기 위해.

제안 방법

• 무작위 스패닝 트리 내 간선의 정확한 사후 확률을 계산하기 위해 행렬-나무 정리를 활용한다.
• 트리 구조에 비정보 사전과 모델 파라미터에 대해 공액 사전을 정의하여 분석적 계산이 가능하도록 한다.
• 간선이 무작위 트리에 포함될 조건부 사후 확률을 계산하기 위해 베이지안 프레임워크를 사용한다.
• 높은 사후 포함 확률를 가진 간선을 선택함으로써 구조 학습을 수행한다.
• 정확한 추론이 계산적으로 가능하도록 하기 위해 탐색 공간을 스패닝 트리로 제한한다.
• 성능 평가를 위해 합성 데이터와 실제 플로우 세포계측 데이터에 모두 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 스패닝 트리로 제한함으로써 비순향 그래픽 모델 구조에 대한 정확한 베이지안 추론을 계산적으로 타당하게 만들 수 있는가?
• RQ2 실제 데이터에서 진정한 기반 그래픽 구조를 트리 구조 모델이 얼마나 잘 근사하는가?
• RQ3 행렬-나무 정리를 사용함으로써 이 맥락에서 간선 사후 확률의 효율적이고 정확한 계산이 가능한가?
• RQ4 알려진 구조를 가진 합성 데이터에서 이 방법의 성능은 어떠한가?
• RQ5 플로우 세포계측과 같은 고차원 생물학적 데이터에서 이 방법의 성능은 어떠한가?

주요 결과

• 행렬-나무 정리를 사용함으로써 간선 사후 확률의 정확한 계산이 가능해져, 구조 학습이 계산적으로 타당해졌다.
• 트리 제한이 알려진 그래픽 구조를 가진 합성 데이터에서의 강력한 성능을 저해하지 않는다.
• 플로우 세포계측 데이터에서 정확한 구조 복원을 달성하여, 실제 세계의 복잡성에 대한 강건성을 보였다.
• 공액 사전의 사용으로 수치 근사가 필요 없이 분석적 계산이 가능했다.
• 베이지안 프레임워크는 간선 포함 여부에 대한 일관된 불확실성 추정을 사후 확률을 통해 제공했다.
• 정확한 베이지안 추론과 결합된 트리 구조 모델이 비순향 그래픽 모델 학습에 효과적일 수 있음을 보여주었다.