[논문 리뷰] Mix & Match Hamiltonian Monte Carlo

Tijana Radivojević, Elena Akhmatskaya|arXiv (Cornell University)|2017. 06. 13.

Markov Chains and Monte Carlo Methods인용 수 3

한 줄 요약

Mix & Match Hamiltonian Monte Carlo (MMHMC)는 수정된 해밀토니안과 부분적인 운동량 재설정을 통해 중요도 표본 추출과 비가역성 역학을 통합함으로써 HMC를 향상시켜, 특히 고차원 문제에서 표본 추출 효율성을 크게 향상시킨다. 이는 HMC, GHMC, RMHMC, MALA 및 RWMH보다도 경험적 벤치마크에서 뛰어난 성능을 보인다.

ABSTRACT

The Hamiltonian Monte Carlo (HMC) method has been recognized as a powerful sampling tool in computational statistics. We show that performance of HMC can be dramatically improved by incorporating importance sampling and an irreversible part of the dynamics into the chain. This is achieved by replacing Hamiltonians in the Metropolis test with modified Hamiltonians, and a complete momentum update with a partial momentum refreshment. We call the resulting generalized HMC importance sampler---Mix & Match Hamiltonian Monte Carlo (MMHMC). The method is irreversible by construction and has been further complemented by (i) the efficient algorithms for computation of modified Hamiltonians; (ii) the implicit momentum update procedure as well as (iii) the two-stage splitting integration schemes specially derived for the methods sampling with modified Hamiltonians. MMHMC has been implemented in the in-house software package HaiCS (Hamiltonians in Computational Statistics), tested on the popular statistical models and compared in sampling efficiency with HMC, Generalized Hybrid Monte Carlo (GHMC), Riemann Manifold Hamiltonian Monte Carlo (RMHMC), Metropolis Adjusted Langevin Algorithm (MALA) and Random Walk Metropolis-Hastings (RWMH). To make a fair comparison, we propose a metric that accounts for both correlations among samples and weights, and can be readily used for all methods which generate such samples. The experiments reveal the superiority of MMHMC over popular sampling techniques, especially in solving high dimensional problems.

연구 동기 및 목표

• 고차원 통계 모델에서 해밀토니안 몽테카를로(HMC)의 표본 추출 효율성을 향상시키는 것.
• 기존 HMC 변종의 한계를 해결하기 위해 표본 추출 과정에 비가역성과 중요도 표본 추출을 통합하는 것.
• 세부 균형을 유지하면서 혼합을 향상시키고 랜덤 워크 행동을 감소시키는 일반화된 HMC 프레임워크를 개발하는 것.
• 수정된 해밀토니안을 계산하고 이러한 새로운 공식화 하에서 역학을 통합하기 위한 효율적인 계산 도구를 만드는 것.

제안 방법

• 중요도 표본 추출을 통합하기 위해 메트로폴리스 수용 테스트에서 표준 해밀토니안을 수정된 해밀토니안으로 대체한다.
• 완전한 운동량 업데이트 대신 부분적인 운동량 재설정을 도입하여 비가역성 역학을 가능하게 한다.
• 통합 중 수치적 안정성을 향상시키기 위해 암시적 운동량 업데이트 절차를 활용한다.
• 수정된 해밀토니안을 사용한 표본 추출에 특화된 이중 단계 분할 통합 기법을 사용한다.
• 계산 오버헤드를 줄이기 위해 수정된 해밀토니안을 효율적으로 계산하는 알고리즘을 개발한다.
• 세부 균형을 유지하면서 비가역성을 통해 혼합을 향상시키는 일반화된 HMC 프레임워크—MMHMC—를 구축한다.

실험 결과

연구 질문

• RQ1 HMC에 중요도 표본 추출과 비가역성 역학을 통합하면 고차원 모델에서 표본 추출 효율성이 크게 향상되는가?
• RQ2 MMHMC는 HMC, GHMC, RMHMC, MALA 및 RWMH와 비교해 효과적 표본 크기와 상관 감소 측면에서 어떻게 성능을 내는가?
• RQ3 이러한 새로운 공식화 하에서 수정된 해밀토니안을 효율적으로 계산하고 역학을 통합하기 위해 필요한 계산 기법은 무엇인가?
• RQ4 표본 상관관계와 가중치를 모두 고려하는 통합 지표는 다양한 표본 추출 방법, 특히 가중치가 있는 방법들을 공정하게 비교하는 데 유용한가?
• RQ5 제안된 방법은 더 빠른 혼합과 감소된 랜덤 워크 행동을 달성하면서도 세부 균형을 유지하는가?

주요 결과

• MMHMC는 HMC, GHMC, RMHMC, MALA 및 RWMH와 비교해 고차원 문제에서 뛰어난 표본 추출 효율성을 보였다.
• 비가역성 역학과 중요도 표본 추출의 통합으로 인해 표본 상관관계가 감소하고 효과적 표본 크기가 향상되었다.
• 표본 상관관계와 가중치를 모두 고려하는 제안된 지표는 다양한 알고리즘 간 공정한 벤치마킹을 가능하게 하였다.
• 수정된 해밀토니안의 효율적 계산과 특화된 이중 단계 분할 통합 기법은 새로운 역학 하에서 안정적이고 정확한 통합을 가능하게 하였다.
• 부분적인 운동량 재설정과 암시적 업데이트가 세부 균형을 유지하면서도 수치적 안정성과 표본 추출 성능을 향상시켰다.
• 경험적 결과는 표준 통계 모델에서 MMHMC가 수렴 속도와 효과적 표본 크기 측면에서 기존 방법을 모두 능가함을 확인하였다.