[논문 리뷰] Bayesian inference for general Gaussian graphical models with application to multivariate lattice data

Adrian Dobra, Alex Lenkoski외 1명|arXiv (Cornell University)|2010. 05. 21.

Bayesian Methods and Mixture Models참고 문헌 26인용 수 4

한 줄 요약

이 논문은 G-Wishart 사전분포를 갖는 다변량 및 행렬형 변수 가우시안 그래픽 모형(GGMs)에서 베이지안 추론을 위한 새로운 가역 이동 MCMC 샘플러를 제안한다. 이는 분해 가능하고 비분해 가능 그래프 모두에서 효율적인 추정과 모형 결정을 가능하게 하며, 계산 비용이 큰 주변 가능도 계산을 피하고, 다변량 격자 자료에 대해 유연하고 희소한 조건부자기회귀(CAR) 모형을 가능하게 한다. 응용 분야로는 공간 자료 및 암 사망률 지ap 맵핑이 포함된다.

ABSTRACT

We introduce efficient Markov chain Monte Carlo methods for inference and model determination in multivariate and matrix-variate Gaussian graphical models. Our framework is based on the G-Wishart prior for the precision matrix associated with graphs that can be decomposable or non-decomposable. We extend our sampling algorithms to a novel class of conditionally autoregressive models for sparse estimation in multivariate lattice data, with a special emphasis on the analysis of spatial data. These models embed a great deal of flexibility in estimating both the correlation structure across outcomes and the spatial correlation structure, thereby allowing for adaptive smoothing and spatial autocorrelation parameters. Our methods are illustrated using simulated and real-world examples, including an application to cancer mortality surveillance.

연구 동기 및 목표

• 일반적인 가우시안 그래픽 모형(GGMs)에 대해 분해 가능하고 비분해 가능 그래프를 모두 지원하는 확장 가능한 베이지안 추론 프레임워크를 개발하는 것.
• 새로운 가역 이동 MCMC 알고리즘을 사용하여 모형 결정 시 계산 비용이 큰 주변 가능도 계산이 필요 없도록 하는 것.
• 다변량 격자 자료에서 조건부자기회귀(CAR) 모형과 GGMs 간의 관계를 확장하여 적응형 스무딩과 공간 상관 구조 추정이 가능하도록 하는 것.
• 행렬형 변수 GGMs에 대해 행과 열의 조건부 이상성 구조를 동시에 모델링하는 통합적이고 효율적인 샘플링 전략을 제공하는 것.
• 공간 통계 분야에서의 응용을 통해 방법의 실용성을 입증하는 것 — 예를 들어 주 수준의 SAT 점수 및 암 사망률 감시

제안 방법

• 임의의 그래프에서 G-Wishart 분포를 샘플링하기 위해 콜레스키 분해를 사용하는 새로운 메트로폴리스-해스팅스 알고리즘을 제안하며, 클리크 수를 세는 것 없이 수행된다.
• 행과 열의 정밀도 행렬, 조건부 이상성 그래프, 보조 변수를 동시에 갱신하는 가역 이동 MCMC 샘플러를 개발하여, 행렬형 정규 모형에서의 식별성 문제를 해결한다.
• 평균 벡터 μ, 중심화된 랜덤 효과 X̃, 행 정밀도 행렬 KR, 열 그래프 GC, 열 정밀도 행렬 KC, 보조 변수 z를 순차적으로 갱신하는 블록 게이브스 샘플링 기법을 사용한다.
• 행과 열의 구조에서의 조건부 이상성을 표현하기 위해 행렬형 정규 분포 기반 조건부 사전분포와 G-Wishart 제약 조건을 활용한다.
• 완전한 조건부 분포가 표준적이지 않을 경우, 정규 제안을 사용하는 메트로폴리스-해스팅스 단계를 적용하여 중심화된 랜덤 효과 행렬 X̃의 개별 요소를 갱신한다.
• 일반선형모형을 통해 연속형 및 이산형 다변량 격자 자료를 모두 지원하는 계층적 모형 프레임워크에 G-Wishart 사전분포를 통합한다.

실험 결과

연구 질문

• RQ1 일반 GGMs에서의 베이지안 모형 결정을 주변 가능도 계산 없이 어떻게 효율적으로 수행할 수 있는가?
• RQ2 G-Wishart 사전분포를 사용하여, GGMs에서 분해 가능하고 비분해 가능 그래프를 모두 다룰 수 있는 단일 MCMC 알고리즘을 설계할 수 있는가?
• RQ3 비분해 가능 이웃 구조를 갖는 다변량 격자 자료에서 CAR 모형과 GGMs 간의 관계를 어떻게 극대화할 수 있는가?
• RQ4 실제 다변량 공간 자료에서 공간 상관 구조와 교차 결과 상관 구조를 추정하는 데에 제안된 샘플러의 성능은 어떠한가?
• RQ5 암 사망률 맵핑과 같은 응용 분야에서 적응형 스무딩과 민감한 공간 상관 구조 추정을 수행할 수 있는가?

주요 결과

• 제안된 MCMC 샘플러는 G-Wishart 사후분포의 정규화 상수 계산이 필요 없음을 보여, 기존 방법에 비해 계산 효율성이 크게 향상된다.
• 클리크 수를 세는 것 없이 콜레스키 기반 샘플링을 활용하여 비분해 가능 그래프에서 정확한 추론을 달성한다.
• 희소한 다변량 CAR 모형을 구성할 수 있으며, 이는 공간 상관 구조와 교차 변수 의존성 구조를 동시에 추정할 수 있도록 한다.
• 암 사망률 응용 사례에서, 모형은 주 간의 의미 있는 공간 패턴과 조건부 이상성 구조를 성공적으로 식별하였다.
• 시뮬레이션 연구는 다양한 희소성 및 상관 구조 조건 하에서 진짜 그래프 구조와 정밀도 행렬을 회복하는 데에 본 방법의 강건성을 확인하였다.
• 고차원 설정에서도 강한 혼합성 및 수렴 성질을 보이며, 이전 방법들에 비해 계산 속도와 확장성 면에서 뛰어난 성능을 보였다.