[논문 리뷰] Locally weighted Markov chain Monte Carlo

Espen Bernton, Shihao Yang외 3명|arXiv (Cornell University)|2015. 06. 29.

Markov Chains and Monte Carlo Methods참고 문헌 15인용 수 4

한 줄 요약

이 논문은 MCMC 알고리즘에서 수락된 및 기각된 제안에 대해 적응형 가중치를 할당하여 추가 계산 없이 통계적 효율성을 향상시키는 국소 가중 Markov Chain Monte Carlo(LWMCMC)를 소개한다. 전이 확률 또는 정적 분포에서 유도된 제안 가중치를 활용함으로써 LWMCMC는 추정기의 분산을 감소시키며, 동일 조건에서 표준 메트로폴리스-하스팅스보다 효과적 표본 크기(ESS)가 13% 향상됨을 입증하였다.

ABSTRACT

We propose a weighting scheme for the proposals within Markov chain Monte Carlo algorithms and show how this can improve statistical efficiency at no extra computational cost. These methods are most powerful when combined with multi-proposal MCMC algorithms such as multiple-try Metropolis, which can efficiently exploit modern computer architectures with large numbers of cores. The locally weighted Markov chain Monte Carlo method also improves upon a partial parallelization of the Metropolis-Hastings algorithm via Rao-Blackwellization. We derive the effective sample size of the output of our algorithm and show how to estimate this in practice. Illustrations and examples of the method are given and the algorithm is compared in theory and applications with existing methods.

연구 동기 및 목표

• 계산 비용 증가 없이 MCMC 샘플링의 통계적 효율성을 향상시키기 위해.
• 표준 MCMC 및 병렬 메트로폴리스-하스팅스의 비효율성을 해결하기 위해 각 반복에서 수락된 및 기각된 제안에 대해 재가중치를 할당하기 위해.
• 다중 코어 아키텍처를 보다 효과적으로 활용할 수 있도록 가중치 기반 샘플링을 가능하게 하는 프레임워크를 제공하기 위해.
• 가중치 MCMC 출력물에 대한 효과적 표본 크기(ESS)를 유도하고 추정하여 성능 비교를 가능하게 하기 위해.
• LWMCMC가 레이오-블랙웰라이제이션 및 캘더헤드의 병렬 MH와 같은 기존 방법을 일반화하고 향상시킴을 보여주기 위해.

제안 방법

• 각 반복에서 현재 상태와 제안 상태에 가중치를 할당하는 국소 가중 MCMC 프레임워크를 제안한다.
• 두 가지 주요 가중치 기반 방식을 사용한다: 제1버전은 수용 확률 기반, 제2버전은 제안 전이 행렬의 정적 분포 기반.
• 가중합을 사용한 목표 기대값에 대한 비편향 추정기 유도: $\hat{\mu}_h = \frac{1}{n}\sum_{j=1}^{n}\sum_{i=0}^{1}w(x_i^{(j)})h(x_i^{(j)})$.
• 이 방법이 확장된 병렬 메트로폴리스-하스팅스 알고리즘의 레이오-블랙웰라이제이션과 동치이며, 재표본화 없이 분산을 감소시킴을 입증한다.
• 효과적 표본 크기(ESS) 공식 유도: $ESS = \frac{n}{\frac{\mathrm{Var}(\bar{x})}{\sigma^2}(1 + 2\sum_k \gamma_k)}$, 여기서 $\gamma_k$는 자기상관계수이다.
• 표본 크기 $N \to \infty$일 때 LWMCMC가 재표본화 기반 방법과 동일한 극한으로 수렴하지만, 재표본화 오버헤드 없이 더 낮은 분산을 달성함을 보여준다.

실험 결과

연구 질문

• RQ1 각 반복 내에서 수락된 및 기각된 제안에 비균일 가중치를 할당함으로써 MCMC 효율성을 향상시킬 수 있는가?
• RQ2 국소 가중 MCMC는 효과적 표본 크기(ESS) 측면에서 표준 메트로폴리스-하스팅스 및 병렬 MH와 어떻게 비교되는가?
• RQ3 제안된 가중치 기반 방식이 표준 MCMC보다 비편향 추정기와 더 낮은 분산을 제공할 수 있는가?
• RQ4 가중치 MCMC 출력물에 대한 유효한 실용적 효과적 표본 크기(ESS) 측정 기준은 무엇인가?
• RQ5 LWMCMC는 레이오-블랙웰라이제이션 및 기존 병렬 MCMC 방법과 어떻게 관련이 있는가?

주요 결과

• 제안된 LWMCMC 방법은 이元 정규분포의 평균을 추정할 때 표준 메트로폴리스-하스팅스 대비 13% 향상된 효과적 표본 크기(ESS)를 달성한다.
• 10,000회 반복 시 표준 MH는 ESS = 1,189를 기록하지만, 제2버전 가중치(정적 분포 기반)는 ESS = 1,359를 기록하여 분산 감소가 뚜렷하게 나타난다.
• 제1버전 가중치(수용 확률 기반)는 ESS = 1,337를 기록하여 표준 MH 대비 일관된 향상이 있음을 보여준다.
• 두 가중치 기반 방식 모두 비편향임이 증명되었으며, 제2버전은 제안 전이 행렬의 정적 분포에 해당한다.
• 법의 전체 기대값 분해 및 공분산을 활용한 증명을 통해 LWMCMC 추정기의 분산은 표준 MH 추정기의 분산보다 엄격히 낮음을 입증하였다.
• 재표본 수 $N \to \infty$일 때 재표본화 기반 알고리즘이 LWMCMC로 수렴하지만, LWMCMC는 재표본화 오버헤드 없이 더 낮은 분산을 달성한다.