[논문 리뷰] Retrospective Markov chain Monte Carlo methods for Dirichlet process hierarchical model

Omiros Papaspiliopoulos, Gareth O. Roberts|ArXiv.org|2007. 10. 23.

Bayesian Methods and Mixture Models참고 문헌 29인용 수 9

한 줄 요약

이 논문은 유한 차원 근사 없이 Dirichlet process 계층 모형에 대한 정확한 사후 시뮬레이션을 가능하게 하는 후행적 마르코프 체인 몽테카를로(MCMC) 알고리즘을 소개한다. 후행적 표본 추출을 활용함으로써 무한 차원 Dirichlet process 성분을 직접 도입할 필요 없이, 표준 조건부 방법에 비해 혼합 성능이 향상되고 자동상관도가 감소한다. 특히 다모달 사후 분포에서 뛰어난 성능을 발휘한다.

ABSTRACT

Inference for Dirichlet process hierarchical models is typically performed using Markov chain Monte Carlo methods, which can be roughly categorised into marginal and conditional methods. The former integrate out analytically the infinite-dimensional component of the hierarchical model and sample from the marginal distribution of the remaining variables using the Gibbs sampler. Conditional methods impute the Dirichlet process and update it as a component of the Gibbs sampler. Since this requires imputation of an infinite-dimensional process, implementation of the conditional method has relied on finite approximations. In this paper we show how to avoid such approximations by designing two novel Markov chain Monte Carlo algorithms which sample from the exact posterior distribution of quantities of interest. The approximations are avoided by the new technique of retrospective sampling. We also show how the algorithms can obtain samples from functionals of the Dirichlet process. The marginal and the conditional methods are compared and a careful simulation study is included, which involves a non-conjugate model, different datasets and prior specifications.

연구 동기 및 목표

• 표준 조건부 방법에서 사용하는 유한 차원 근사를 피하는 Dirichlet process 계층 모형에 대한 정확한 MCMC 알고리즘을 개발하는 것.
• 할당 변수, 구성 요소 파라미터, 가중치, 랜덤 측도의 기능 등에 대한 정확한 사후 시뮬레이션을 가능하게 하는 것.
• 라벨 전환 문제와 조건부 게이브스 샘플러에서 발생하는 다모달 사후 분포 탐색 문제를 후행적 표본 추출을 통해 해결하는 것.
• 비공액 설정에서 제안된 후행적 MCMC 방법과 기존의 주변 및 조건부 MCMC 알고리즘 간의 성능을 비교하는 것.
• 후행적 표본 추출이 통합 자동상관도 시간을 낮추고, 특히 복잡한 사후 분포 구조에서 더 효율적인 표본 추출을 가능하게 함을 보여주는 것.

제안 방법

• 공통 사후 분포를 기반으로 조건부로 변수를 생성함으로써, 무한 차원 Dirichlet process 성분을 명시적 도입 없이 시뮬레이션하는 후행적 표본 추출 기법을 제안한다.
• Stick-breaking 표현을 사용하여 $ p_j = (1 - V_1) \times \cdots \times (1 - V_{j-1})V_j $ 로 정의되며, $ V_j \sim \text{Be}(1,\alpha) $ 이고, $ (p,Z) $ 를 직접 샘플링하지 않기 위해 후행적 시뮬레이션을 적용한다.
• 공동 사후 분포 구조를 활용하여 할당 변수 $ K_i $, 구성 요소 파라미터 $ Z_j $, 가중치 $ p_j $ 의 조건부 분포를 유도함으로써 정확한 게이브스 업데이트를 가능하게 한다.
• 라벨 전환 이동을 도입하여, 특히 클러스터 라벨이 식별 불가능한 다모달 사후 분포에서 혼합 성능을 향상시킨다.
• MCMC 효율성을 비교하기 위해 통합 자동상관도 시간(IAT)을 성능 지표로 사용하며, $ L \ll N $ 까지의 지연 기반 합산을 통해 추정한다.
• FORTRAN 77로 알고리즘을 구현하고, $ N = 2 \times 10^6 $ 개의 몬테카를로 표본을 사용하여 무작위화 방법(노갭스, 니얼의 알고리즘 7 및 8)과 비교한다.

실험 결과

연구 질문

• RQ1 후행적 표본 추출을 활용하여, 유한 차원 근사 없이 Dirichlet process 계층 모형에 대한 정확한 MCMC 알고리즘을 구성할 수 있는가?
• RQ2 통합 자동상관도 시간과 혼합 효율성 측면에서 후행적 MCMC 방법의 성능이 주변 및 조건부 MCMC 알고리즘과 비교해 어떻게 되는가?
• RQ3 후행적 방법은 표준 조건부 게이브스 샘플러에 비해 라벨 전환 문제를 완화하고 다모달 사후 분포 탐색을 어떻게 향상시키는가?
• RQ4 후행적 알고리즘의 계산 비용은 농도 매개변수 $ \alpha $ 와 함께 어떻게 변화하며, 기존 방법과 비교해 어떻게 되는가?
• RQ5 후행적 접근은 Dirichlet process를 초월해 일반적인 스틱 브레이킹 사전분포로 확장될 수 있는가, 그리고 정확한 시뮬레이션을 위해 필요한 조건부 독립성 구조를 유지하는가?

주요 결과

• 후행적 MCMC 알고리즘은 유한 근사 없이 정확한 사후 시뮬레이션을 가능하게 하여, Dirichlet process와 랜덤 측도 $ P $ 의 기능에 대한 정확한 추론을 가능하게 한다.
• 특히 라벨 전환이 혼합을 방해하는 다모달 사후 분포에서, 표준 조건부 게이브스 샘플러에 비해 통합 자동상관도 시간이 크게 감소한다.
• 후행적 방법은 더 나은 사후 분포 탐색 덕분에 반복당 유효 표본 크기 측면에서 표준 조건부 접근보다 뛰어나며, IAT 가 낮다.
• 라벨 전환 이동은 후행적 알고리즘에서 혼합 성능을 크게 향상시키며, 라벨 식별 불가능성의 영향을 줄인다.
• 후행적 알고리즘의 계산 시간은 $ \alpha $ 가 증가함에 따라 증가하지만, $ \alpha = 1 $ 일 때는 니얼의 알고리즘 7 및 노갭스 알고리즘과 유사한 수준을 유지한다.
• 주변 방법(예: 니얼의 알고리즘 7 및 8)은 IAT 측면에서 조건부 접근보다 뛰어나며, $ (p,Z) $ 의 다모달 사후 분포를 탐색하지 않기 때문에 이는 복잡한 모델에서 후행적 방법의 핵심 이점이다.