[논문 리뷰] Antithetic Riemannian Manifold And Quantum-Inspired Hamiltonian Monte Carlo

Wilson Tsakane Mongwe, Rendani Mbuvha외 1명|arXiv (Cornell University)|2021. 07. 05.

Markov Chains and Monte Carlo Methods참고 문헌 27인용 수 5

한 줄 요약

이 논문은 Riemannian Manifold Hamiltonian Monte Carlo (RMHMC)와 Quantum-Inspired Hamiltonian Monte Carlo (QIHMC)의 반대형 버전을 제안하며, 운동량의 반대를 통해 분산을 감소시키고 효과적 표본 크기를 향상시킨다. 결과적으로 두 새로운 알고리즘 모두 반대형 HMC보다 우수한 성능을 보이며, A-QIHMC는 모든 데이터셋에서 가장 높은 정규화된 효과적 표본 크기를 기록하고, A-RMHMC는 로지스틱 회귀 작업에서 뛰어난 성능을 보였다.

ABSTRACT

Markov Chain Monte Carlo inference of target posterior distributions in machine learning is predominately conducted via Hamiltonian Monte Carlo and its variants. This is due to Hamiltonian Monte Carlo based samplers ability to suppress random-walk behaviour. As with other Markov Chain Monte Carlo methods, Hamiltonian Monte Carlo produces auto-correlated samples which results in high variance in the estimators, and low effective sample size rates in the generated samples. Adding antithetic sampling to Hamiltonian Monte Carlo has been previously shown to produce higher effective sample rates compared to vanilla Hamiltonian Monte Carlo. In this paper, we present new algorithms which are antithetic versions of Riemannian Manifold Hamiltonian Monte Carlo and Quantum-Inspired Hamiltonian Monte Carlo. The Riemannian Manifold Hamiltonian Monte Carlo algorithm improves on Hamiltonian Monte Carlo by taking into account the local geometry of the target, which is beneficial for target densities that may exhibit strong correlations in the parameters. Quantum-Inspired Hamiltonian Monte Carlo is based on quantum particles that can have random mass. Quantum-Inspired Hamiltonian Monte Carlo uses a random mass matrix which results in better sampling than Hamiltonian Monte Carlo on spiky and multi-modal distributions such as jump diffusion processes. The analysis is performed on jump diffusion process using real world financial market data, as well as on real world benchmark classification tasks using Bayesian logistic regression.

연구 동기 및 목표

• 반대형 샘플링을 통합하여 HMC 샘플러에서 높은 분산과 낮은 효과적 표본 크기 문제를 해결하고자 한다.
• 이미 복잡한 사후분포에서 샘플링을 향상시키는 Riemannian Manifold HMC(RMHMC)와 Quantum-Inspired HMC(QIHMC)에 반대형 샘플링을 확장하고자 한다.
• 반대형 RMHMC와 QIHMC가 실제 베이지안 추론 작업에서 반대형 HMC보다 더 높은 효과적 표본 크기를 가지는지 평가하고자 한다.
• 점프 확산 과정(금융 데이터)과 베이지안 로지스틱 회귀 벤치마크 간의 성능을 비교하며, 원시 및 시간 정규화된 효과적 표본 크기를 모두 평가하고자 한다.

제안 방법

• 반대형 운동량 기반의 두 개의 RMHMC 체인을 결합하여 반대형 RMHMC를 제안하며, 지역 기하학을 고려한 동역학을 유지하면서 분산을 감소시킨다.
• 양자 영감을 받은 무작위 질량 행렬 설정에 반대형 샘플링을 적용하여 반대형 QIHMC를 개발하며, 다중 모달성 및 뾰족한 사후분포에서의 탐색 능력을 향상시킨다.
• 공유된 난수 스트림을 사용하여 체인을 결합함으로써 편향 없는 추정과 반상관을 통한 분산 감소를 실현한다.
• 고정된 경로 길이와 최적화된 스텝 크기를 사용하여 알고리즘을 구현하고, 실제 데이터셋에서 성능을 평가한다.
• 실행 시간으로 나누어 다변량 효과적 표본 크기(mESS)를 정규화하여 계산 효율성을 평가한다.
• HMC, 반대형 HMC, RMHMC, 반대형 RMHMC, QIHMC, 반대형 QIHMC를 모두 비교하며 mESS, 실행 시간, 시간 정규화된 mESS를 평가한다.

실험 결과

연구 질문

• RQ1 반대형 샘플링은 상관관계가 있고 곡률이 있는 사후분포에서 Riemannian Manifold Hamiltonian Monte Carlo의 효과적 표본 크기를 향상시키는가?
• RQ2 반대형 샘플링은 점프 확산 과정과 같은 다중 모달성 및 뾰족한 사후분포에서 Quantum-Inspired Hamiltonian Monte Carlo의 성능을 향상시키는가?
• RQ3 반대형 RMHMC와 QIHMC는 반대형 HMC와 비교해 효과적 표본 크기와 계산 효율성 측면에서 어떻게 다른가?
• RQ4 기하학적 인지 동역학(RMHMC)과 반대형 샘플링의 조합은 베이지안 로지스틱 회귀 작업에서 뛰어난 성능을 낼 수 있는가?
• RQ5 반대형 샘플링의 성능 향상 효과는 다중 모달성 대비 상관관계가 있는 사후분포와 같은 다양한 유형의 목표 사후분포에서 일관되게 나타나는가?

주요 결과

• 반대형 RMHMC는 베이지안 로지스틱 회귀 데이터셋에서 가장 높은 다변량 효과적 표본 크기(mESS)를 기록하며, 반대형 HMC와 QIHMC를 모두 앞선다.
• 반대형 QIHMC는 S&P 500 및 USDZAR 금융 데이터를 포함한 모든 데이터셋에서 가장 높은 정규화된 mESS(mESS per second)를 확보하였다.
• S&P 500 및 USDZAR 점프 확산 데이터셋에서 반대형 QIHMC는 가장 높은 mESS를 기록하여 다중 모달성 및 뾰족한 사후분포에서의 우수성을 확인하였다.
• 모든 반대형 변종(A-HMC, A-RMHMC, A-QIHMC)은 비반대형 대비 더 높은 mESS를 기록하였으며, 이는 반대형 샘플링의 일반적인 효과를 입증한다.
• 호주 및 독일 데이터셋에서 반대형 RMHMC는 17.23 mESS/sec의 가장 높은 정규화된 mESS를 기록하며 다른 방법들보다 뚜렷이 뛰어난 성능을 보였다.
• 모든 알고리즘의 반대형 변종는 비반대형 버전보다 항상 더 높은 mESS를 기록하였으며, 이는 반대형 MCMC가 분산 감소에 실질적인 유용성을 지닌다는 것을 검증한다.