[논문 리뷰] Geometrically Tempered Hamiltonian Monte Carlo

Akihiko Nishimura, David B. Dunson|arXiv (Cornell University)|2016. 04. 04.

Markov Chains and Monte Carlo Methods참고 문헌 32인용 수 11

한 줄 요약

이 논문은 다모드 사후 분포에서 모드 간 에너지 장벽을 낮추기 위해 특별히 설계된 메트릭을 사용하는 새로운 리만 다양체 HMC 변종인 기하학적으로 온도 조절된 해밀턴 몽테카를로(GTHMC)를 소개한다. 외재 기하학과 가변 단계 크기 적분기를 활용하여 GTHMC는 모드 간 효율적인 전이를 가능하게 하여 표준 HMC와 RMHMC에 비해 다모드 환경에서 효과적인 표본 크기를 크게 향상시킨다.

ABSTRACT

Hamiltonian Monte Carlo (HMC) has become routinely used for sampling from posterior distributions. Its extension Riemann manifold HMC (RMHMC) modifies the proposal kernel through distortion of local distances by a Riemannian metric. The performance depends critically on the choice of metric, with the Fisher information providing the standard choice. In this article, we propose a new class of metrics aimed at improving HMC's performance on multi-modal target distributions. We refer to the proposed approach as geometrically tempered HMC (GTHMC) due to its connection to other tempering methods. We establish a geometric theory behind RMHMC to motivate GTHMC and characterize its theoretical properties. Moreover, we develop a novel variable step size integrator for simulating Hamiltonian dynamics to improve on the usual Störmer-Verlet integrator which suffers from numerical instability in GTHMC settings. We illustrate GTHMC through simulations, demonstrating generality and substantial gains over standard HMC implementations in terms of effective sample sizes.

연구 동기 및 목표

• 모드 간 높은 에너지 장벽으로 인해 표준 HMC와 RMHMC가 다모드 사후 분포에서 혼합이 불량한 문제를 해결하기 위해.
• 이러한 에너지 장벽을 줄일 수 있도록 기하학적으로 유도된 메트릭을 개발하여 모드 간 전이 빈도를 높이기 위해.
• 외재 기하학을 사용하여 RMHMC의 엄밀한 기하학 이론을 수립하여 이론을 더 직관적이고 접근하기 쉽게 만들기 위해.
• GTHMC에서 수치적 불안정성을 극복하고 궤적 정확도를 향상시키기 위해 가변 단계 크기 적분기를 설계하기 위해.
• GTHMC가 다모드 샘플링 문제에서 표준 HMC와 RMHMC에 비해 효과적인 표본 크기가 현저히 높게 달성됨을 보여주기 위해.

제안 방법

• 다모드 사후 분포에서 모드 간 에너지 장벽을 낮추기 위해 특수하게 설계된 리만 메트릭의 새로운 클래스를 제안하여 해밀턴 역학이 모드 간 전이를 더 쉽게 수행할 수 있도록 한다.
• 외재 기하학을 사용하여 RMHMC의 기하학 이론을 유도함으로써 내재 기하학 접근법에 비해 더 명확한 직관과 명시적인 수식을 제공한다.
• 지역 곡률에 적응하는 가변 단계 크기 적분기를 도입하여 GTHMC 환경에서의 수치적 안정성을 향상시킨다.
• 가변 단계 크기와 호환되는 수정된 수락-기각 메커니즘을 활용하여 샘플링 효율성을 향상시킨다.
• 제안된 메트릭 하에서의 해밀턴 역학을 $ H(\bm{\theta}, \mathbf{p}) = -\log\pi(\bm{\theta}) + \frac{1}{2}\log|\mathbf{G}(\bm{\theta})| + \frac{1}{2}\mathbf{p}^T\mathbf{G}(\bm{\theta})^{-1}\mathbf{p} $ 로 유도한다. 여기서 $ \mathbf{G} $ 는 제안된 메트릭이다.
• 어려운 다모드 목표 분포에서 효과적인 표본 크기가 향상됨을 보여주는 시뮬레이션을 통해 방법을 검증한다.

실험 결과

연구 질문

• RQ1 다모드 사후 분포에서 모드 간 에너지 장벽을 낮출 수 있는 리만 메트릭을 설계할 수 있는가? 이를 통해 HMC의 혼합 성능이 향상되는가?
• RQ2 외재 기하학을 사용하여 RMHMC의 기하학 이론을 재구성하면 더 직관적이고 명시적인 결과를 도출할 수 있는가?
• RQ3 제안된 기하학적 온도 조절 하에서 해밀턴 역학을 시뮬레이션할 때 수치적 안정성과 정확도를 보장할 수 있는 적분기 방법은 무엇인가?
• RQ4 GTHMC의 성능은 다모드 분포에서 효과적인 표본 크기를 고려할 때 표준 HMC와 RMHMC에 비해 어떻게 비교되는가?
• RQ5 가변 단계 크기 적분기와 향상된 수락-기각 메커니즘은 다른 HMC 변종으로 일반화될 수 있는가?

주요 결과

• GTHMC는 다모드 사후 분포에서 표준 HMC와 RMHMC에 비해 효과적인 표본 크기가 현저히 높게 달성되어 뛰어난 혼합 성능을 보였다.
• 제안된 기하학적 온도 조절 메트릭은 모드 간 에너지 장벽을 효과적으로 낮춰 해밀턴 궤적의 모드 간 전이 빈도를 높였다.
• 표준 Störmer-Verlet 방법에 비해 GTHMC 환경에서 수치적 불안정성을 줄이는 데 성공한 가변 단계 크기 적분기가 성능이 뛰어나다.
• 외재 기하학적 수식은 내재 기하학 접근법에 비해 RMHMC 역학을 더 명확하고 직관적으로 이해할 수 있도록 하였다.
• 가변 단계 크기와 호환되는 수락-기각 메커니즘이 샘플링 효율성을 향상시키며, 다른 HMC 변종으로도 일반화 가능하다.
• 시뮬레이션 결과 GTHMC가 다양한 다모드 목표 분포에 대해 잘 일반화되며, 효과적인 표본 크기에서 일관된 성능 향상을 보였다.