[논문 리뷰] Quantum-Inspired Hamiltonian Monte Carlo for Bayesian Sampling

Ziming Liu, Zheng Zhang|arXiv (Cornell University)|2019. 12. 04.

Markov Chains and Monte Carlo Methods참고 문헌 42인용 수 5

한 줄 요약

이 논문은 양자역학적 에너지-시간 불확정성 원리에서 영감을 얻어 입자의 질량을 무작위의 정규행렬로 간주하는 양자 힘입은 해밀토니안 몬테카를로(QHMC)를 제안한다. 적응형 시간 스케일을 허용함으로써, QHMC는 가시성과 다모달 분포에서 샘플링 효율을 향상시킨다. 특히, 확률적 경량 기반 변형(QSGNHT)은 HMC 및 그 변형보다 신경망 프루닝과 이미지 노이즈 제거에서 뛰어난 성능을 보였다.

ABSTRACT

Hamiltonian Monte Carlo (HMC) is an efficient Bayesian sampling method that can make distant proposals in the parameter space by simulating a Hamiltonian dynamical system. Despite its popularity in machine learning and data science, HMC is inefficient to sample from spiky and multimodal distributions. Motivated by the energy-time uncertainty relation from quantum mechanics, we propose a Quantum-Inspired Hamiltonian Monte Carlo algorithm (QHMC). This algorithm allows a particle to have a random mass matrix with a probability distribution rather than a fixed mass. We prove the convergence property of QHMC and further show why such a random mass can improve the performance when we sample a broad class of distributions. In order to handle the big training data sets in large-scale machine learning, we develop a stochastic gradient version of QHMC using Nos{é}-Hoover thermostat called QSGNHT, and we also provide theoretical justifications about its steady-state distributions. Finally in the experiments, we demonstrate the effectiveness of QHMC and QSGNHT on synthetic examples, bridge regression, image denoising and neural network pruning. The proposed QHMC and QSGNHT can indeed achieve much more stable and accurate sampling results on the test cases.

연구 동기 및 목표

• 희소성과 낮은 질량의 베이지안 모델링에서 흔한 가시성과 다모달 사후 분포에서 표준 해밀토니안 몬테카를로(HMC)의 비효율성을 해결하기 위해.
• 양자역학의 에너지-시간 불확정성 관계를 활용하여, 랜덤 질량 행렬을 통한 적응형 시간 스케일을 가능하게 하여 샘플링 전략을 향상시키기 위해.
• 대규모 머신러닝에 적합한 확률적 경량 기반 변형인 QSGNHT를 개발하여 안정된 상태 분포에 대한 이론적 보장을 확보하기 위해.
• 회귀, 이미지 노이즈 제거, 신경망 프루닝을 포함한 합성 및 실세계 베이지안 학습 과제에서 더 높은 샘플링 정확도와 수렴 안정성을 입증하기 위해.

제안 방법

• 입자의 질량 행렬을 고정된 스칼라나 행렬이 아닌, 확률 분포에서 추출된 랜덤 정규행렬로 설정하는 QHMC를 제안한다.
• 정상 상태 분포가 정확하게 유지되도록, 확률적 경량 기반 버전에서 Nosé-Hoover 열역학기구를 사용한다.
• 배치로 추정된 기울기를 사용하고, 샘플된 질량에 하한 $m_0$을 도입하여 수치적 불안정성을 방지하는 QSGNHT라는 QHMC의 확률적 경량 기반 변형을 도입한다.
• 세부 균형과 진정한 사후 분포로의 수렴을 보장하기 위해 샘플링 과정에 메트로폴리스-하스팅스 보정 단계를 적용한다.
• 다양한 분포 유형에 적합한 유연하고 효율적인 구현을 제공하기 위해 세 가지 매aram터라이제이션—S-QHMC, D-QHMC, M-QHMC—을 적용한다.
• 이론적 분석을 통해 QHMC가 진정한 사후 분포로 수렴하고, 확률적 미분 방정식을 활용해 QSGNHT의 정상 상태 분포를 정당화한다.

실험 결과

연구 질문

• RQ1 고정 질량 HMC와 비교해, 해밀토니안 역학에서 랜덤 질량 행렬을 사용하면 다모달성과 가시성 있는 사후 분포에서 샘플링 효율이 향상되는가?
• RQ2 양자역학의 에너지-시간 불확정성 원리는 베이지안 추론에서 더 효과적인 샘플링 전략을 어떻게 유도하는가?
• RQ3 QHMC의 확률적 경량 기반 변형은 대규모 데이터셋에 스케일링되면서도 정확한 정상 상태 분포를 유지할 수 있는가?
• RQ4 실세계 베이지안 학습 과제, 특히 신경망 프루닝과 이미지 노이즈 제거에서 QHMC는 표준 HMC, SGHMC, SGLD보다 뛰어난 성능을 보이는가?
• RQ5 QHMC가 진정한 사후 분포로 수렴하는 데 필요한 이론적 조건은 무엇인가?

주요 결과

• 베이지안 프루닝 후 MNIST 이미지 분류에서 QSGNHT는 SGNHT(94.4% ± 0.2)보다 2% 높은 테스트 정확도(96.6% ± 0.2)를 달성했다.
• 신경망 프루닝에서 제안된 QSGNHT는 SGNHT(47.6 ± 1.3)보다 14% 높은 압축률(54.2 ± 2.1)을 기록하여 더 나은 모델 희소성 확보를 확인했다.
• 이미지 노이즈 제거 과정에서 QHMC와 QSGNHT는 HMC 및 SGHMC보다 더 정확하고 안정적인 복원 결과를 도출했으며, 특히 급격한 전이가 발생하는 영역에서 뛰어난 성능을 보였다.
• 합성 다모달 분포에서 QHMC는 모든 모드를 성공적으로 탐색한 반면, 고정된 시간 스케일 제약으로 인해 표준 HMC는 혼합이 제대로 이루어지지 않았다.
• 이론적 분석을 통해 QHMC가 진정한 사후 분포로 수렴하고, QSGNHT가 확률적 기울기 하에서 정확한 정상 상태 분포를 유지하는 것으로 확인되었다.
• 샘플된 질량에 하한 $m_0$을 적용함으로써 QSGNHT의 수치적 발산을 방지하고 학습 안정성을 향상시켰다.