[논문 리뷰] Component-wise Markov chain Monte Carlo

Alicia A. Johnson, Galin L. Jones외 1명|arXiv (Cornell University)|2009. 03. 04.

Markov Chains and Monte Carlo Methods인용 수 12

한 줄 요약

이 논문은 실용적으로 널리 사용되는 구성요소별 마르코프 체인 몽테카를로(MCMC) 알고리즘, 즉 지브스 샘플러와 지브스 내 메트로폴리스-하스팅스 알고리즘에 대해 조합, 무작위 순서, 무작위 스캔 전략 하에서 기하적 에르고딕성 조건을 수립한다. 이는 이러한 전략들이 정적 분포로 기하적으로 수렴함을 보여주며, 이는 i.i.d. 표본 추출과 유사한 신뢰성 있는 추론을 가능하게 한다.

ABSTRACT

It is common practice in Markov chain Monte Carlo to update the simulation one variable (or sub-block of variables) at a time, rather than conduct a single full-dimensional update. When it is possible to draw from each full-conditional distribution associated with the target this is just a Gibbs sampler. Often at least one of the Gibbs updates is replaced with a Metropolis-Hastings step, yielding a Metropolis-Hastings-within-Gibbs algorithm. Strategies for combining component-wise updates include composition, random sequence and random scans. While these strategies can ease MCMC implementation and produce superior empirical performance compared to full-dimensional updates, the theoretical convergence properties of the associated Markov chains have received limited attention. We present conditions under which some component-wise Markov chains converge to the stationary distribution at a geometric rate. We pay particular attention to the connections between the convergence rates of the various component-wise strategies. This is important since it ensures the existence of tools that an MCMC practitioner can use to be as confident in the simulation results as if they were based on independent and identically distributed samples. We illustrate our results in two examples including a hierarchical linear mixed model and one involving maximum likelihood estimation for mixed models.

연구 동기 및 목표

• 실제로 널리 사용되는 구성요소별 MCMC 전략에 대한 이론적 수렴 분석의 부족을 보완하기 위해.
• 구성요소별 MCMC 체인이 목표 분포로 기하적으로 수렴할 수 있는 충분조건을 수립하기 위해.
• 조합, 무작위 순서, 무작위 스캔 전략의 세 가지 구성요소별 전략 간의 수렴 속도를 통합된 이론적 조건 하에서 비교하기 위해.
• 실무자들이 i.i.d. 표본과 유사하게 MCMC 출력의 신뢰성을 평가할 수 있도록 이론적으로 기반을 제공하기 위해.
• 계층적 선형 혼합 모형과 혼합 모형에 대한 최대우도 추정에 응용을 통해 이론적 결과를 검증하기 위해.

제안 방법

• 변수 또는 부분 블록을 전체조건부 분포를 사용해 순차적으로 갱신하는 구성요소별 MCMC 알고리즘을 분석한다.
• 지브스 샘플러와 메트로폴리스-하스팅스-인사이드-지브스 알고리즘에 의해 생성된 마르코프 체인에 대해 기하 에르고딕성 이론을 적용한다.
• 구성요소별 샘플러의 전이 핵심이 기하 이동 및 소작업 조건을 만족할 조건을 도출한다.
• 정규 조합, 무작위 순서, 무작위 스캔의 세 가지 스캔 전략 간의 수렴 속도를 비교한다.
• 포스터-리아푸노프 이동 조건과 마이너라이제이션 기준을 사용하여 각 전략에 대한 기하 에르고디시티를 확립한다.
• 결과를 계층적 선형 혼합 모형과 혼합 모형에 대한 최대우도 추정의 두 실용적 사례에 적용한다.

실험 결과

연구 질문

• RQ1 지브스 샘플러와 메트로폴리스-하스팅스-인사이드-지브스를 포함한 구성요소별 MCMC 알고리즘이 정적 분포로 기하적으로 수렴하는 조건은 무엇인가?
• RQ2 조합, 무작위 순서, 무작위 스캔 전략의 수렴 속도는 기하 에르고딕성 측면에서 어떻게 비교될 수 있는가?
• RQ3 이전에는 i.i.d. 표본 추출에만 제공되었던 MCMC 신뢰성 평가를 위한 이론적 도구들이 구성요소별 MCMC 방법으로 확장될 수 있는가?
• RQ4 전체조건부 갱신이 메트로폴리스-하스팅스 단계로 대체될 경우 MCMC 샘플러에 대해 어떤 이론적 보장이 제공될 수 있는가?
• RQ5 구성요소별 MCMC 전략의 수렴 성질은 실용적인 계층적 및 혼합 모형에서 어떻게 나타나는가?

주요 결과

• 메트로폴리스-하스팅스-인사이드-지브스를 포함한 구성요소별 MCMC 알고리즘은 약간의 정규성 조건 하에서 정적 분포로 기하적으로 수렴한다.
• 기본 조건이 충족될 경우, 조합, 무작위 순서, 무작위 스캔 전략의 수렴 속도는 기하 에르고딕성 측면에서 유사하다.
• 기하 에르고딕성은 MCMC 출력을 i.i.d. 표본과 동일한 수준의 신뢰성으로 간주할 수 있음을 보장하여, 안정적인 추론을 가능하게 한다.
• 이동 조건과 마이너라이제이션 조건을 포함한 이론적 도구들은 구성요소별 샘플러에 적용하여 기하 수렴을 검증할 수 있다.
• 결과는 계층적 선형 혼합 모형과 혼합 모형에 대한 최대우도 추정 설정에서 경험적으로 검증되었다.
• 논문은 구성요소별 갱신이 실무에서 널리 사용되지만, 강력한 수렴 보장을 통해 이론적으로 정당화될 수 있음을 수립한다.