[논문 리뷰] Asymptotically Independent Markov Sampling: a new MCMC scheme for Bayesian Inference

James L. Beck, Konstantin M. Zuev|arXiv (Cornell University)|2011. 10. 09.

Markov Chains and Monte Carlo Methods참고 문헌 24인용 수 11

한 줄 요약

이 논문은 베이지안 추론에서 복잡한, 고차원적이거나 다중모달인 사후 분포에서 효율적으로 표본을 추출하기 위해 중요도 표본 추출, MCMC, 시뮬레이티드 냉각을 조합한 새로운 MCMC 체계인 점근적 독립 마르코프 표본 추출(AIMS)을 제안한다. AIMS는 온건한 조건 하에 균일한 에르고딕 마르코프 체인을 보장하며, 다중모달성과 고차원성의 사후 분포를 포함한 수치 예제에서 뛰어난 효율성을 보인다.

ABSTRACT

In Bayesian statistics, many problems can be expressed as the evaluation of the expectation of a quantity of interest with respect to the posterior distribution. Standard Monte Carlo method is often not applicable because the encountered posterior distributions cannot be sampled directly. In this case, the most popular strategies are the importance sampling method, Markov chain Monte Carlo, and annealing. In this paper, we introduce a new scheme for Bayesian inference, called Asymptotically Independent Markov Sampling (AIMS), which is based on the above methods. We derive important ergodic properties of AIMS. In particular, it is shown that, under certain conditions, the AIMS algorithm produces a uniformly ergodic Markov chain. The choice of the free parameters of the algorithm is discussed and recommendations are provided for this choice, both theoretically and heuristically based. The efficiency of AIMS is demonstrated with three numerical examples, which include both multi-modal and higher-dimensional target posterior distributions.

연구 동기 및 목표

• 표준 MCMC와 중요도 표본 추출이 혼합이 나쁘거나 분산이 높아 실패하는 복잡한, 고차원적이거나 다중모달인 사후 분포에서 표본을 추출하는 데 도전하는 데에 대비하기 위해.
• 중요도 표본 추출, MCMC, 시뮬레이티드 냉각을 하나의 견고한 표본 추출 알고리즘으로 통합하는 통합 프레임워크를 개발하기 위해.
• 제안된 알고리즘의 이론적 에르고딕 성질, 특히 균일한 에르고디시티를 확립하여 빠른 수렴과 신뢰할 수 있는 표본 추출을 보장하기 위해.
• 표본 크기, 유효 표본 수 기준치, 제안 분포 분산과 같은 알고리즘 파라미터를 선택하기 위한 실용적 지침을 제공하기 위해.
• 실제 수치 예제, 특히 다중모달성과 고차원성의 사후 분포에서 알고리즘의 효율성을 입증하기 위해.

제안 방법

• AIMS는 사전분포 $\pi_0$에서 사후분포 $\pi_m$로 이르는 시뮬레이티드 냉각을 통해 중간 분포 $\pi_0, \pi_1, \dots, \pi_m$의 수열을 구성한다.
• 각 단계 $j$에서 이전 분포 $\pi_{j-1}$의 $N$개 표본을 사용해 $\pi_j$의 비모수적 중요도 표본 추정치 $\hat{\pi}_j^N$를 구성한다.
• 이 추정치 $\hat{\pi}_j^N$는 독립 메트로폴리스-하스팅스 알고리즘에서 독립적 제안 분포로 사용되어 $\pi_j$에서 표본을 생성한다.
• 알고리즘은 점근적 독립성을 보장한다: $N \to \infty$가 되면 제안 분포가 정확해지며, 체인은 목표 분포에서 i.i.d. 표본을 생성한다.
• 유효 표본 수(Essential Sample Size, ESS) 기준치 $\gamma = 1/2$는 유효 표본 수를 제어하고 냉각 스케줄을 안내하는 데 사용된다.
• 수치 예제에서는 파rameter 공간의 탐색을 보장하기 위해 제안 밀도 $q_j(\cdot|\xi) = \mathcal{N}(\cdot|\xi, c^2 \mathbb{I}_7)$와 $c = 0.5$를 사용한다.

실험 결과

연구 질문

• RQ1 중요도 표본 추출, MCMC, 시뮬레이티드 냉각을 조합한 하이브리드 MCMC 체계가 복잡한 사후 분포에서 균일한 에르고딕 표본 추출을 달성할 수 있는가?
• RQ2 표본 크기 $N$, ESS 기준치 $\gamma$, 제안 분포 분산과 같은 자유 파라미터의 선택은 이론적 에르고딕성과 실용적 효율성을 동시에 확보하기 위해 어떻게 최적화될 수 있는가?
• RQ3 AIMS는 고차원적이거나 다중모달인 사후 분포에서 표본을 추출할 때 표준 MCMC와 중요도 표본 추출보다 뛰어난 성능을 보일 수 있는가?
• RQ4 AIMS가 균일한 에르고딕 마르코프 체인을 생성하는 조건은 무엇이며, 이러한 조건은 일반적인 베이지안 추론 문제와 어떻게 일치하는가?
• RQ5 AIMS는 다중모달성이나 강한 상관관계를 가진 복잡한 기하학적 특성을 띤 고차원 사후 분포를 효과적으로 다룰 수 있는가?

주요 결과

• AIMS는 온건한 정규성 조건 하에 균일한 에르고딕 마르코프 체인을 생성하여 목표 사후 분포로의 신속하고 안정적인 수렴을 보장한다.
• 7차원 비선형 회귀 예제에서 두 개의 모드를 가진 사후 분포에서 고차원성과 다중모달성에도 불구하고 높은 표본 추출 효율성을 달성한다.
• 수치 예제에서 AIMS는 진짜 평균 예측 함수 $f(x)$를 성공적으로 복원하였으며, 추정치의 5번째와 95번째 백분위수는 진짜 곡선 주변의 불확실성을 잘 포괄하였다.
• 각 냉각 단계에 대해 $N = 3 \times 10^3$개의 표본과 $\gamma = 1/2$를 사용한 결과, 모든 10개의 냉각 단계에서 수렴이 관찰되었고, 안정적이고 정확한 사후 분포 추정이 이루어졌다.
• AIMS 추정치 $\bar{\hat{f}}_m(x)$는 진짜 함수와 매우 유사했으며, 중간 단계의 추정치 $\bar{\hat{f}}_j(x)$는 목표 분포로의 부드러운 진전을 보여, 효과적인 냉각이 이루어졌음을 시사한다.
• 7차원 공간에서 다중모달성과 강한 매개변수 상관관계를 가진 사후 분포에서도 AIMS는 복잡한 사후 구조에 대해 강건함을 입증하였다.