[논문 리뷰] Selecting the Metric in Hamiltonian Monte Carlo

Ben Bales, Arya Pourzanjani외 2명|arXiv (Cornell University)|2019. 05. 28.

Markov Chains and Monte Carlo Methods참고 문헌 21인용 수 4

한 줄 요약

이 논문은 사후 분포 기하학을 바탕으로 하모닉 몬테카를로(HMC)에 최적의 유클리드 거리 척도를 자동으로 선택할 수 있는 선별 기준을 제안하고, 기존 표본 공분산 방법에 비해 훨씬 적은 웜업 샘플 수가 필요한 저랭크 헤시안 기반 거리 척도 적응 기법을 제안한다. 이 방법은 상관관계가 높은 사후 분포에서 샘플링 효율을 향상시키며, 랑츠 알고리즘을 통해 계산적으로 실현 가능하다.

ABSTRACT

We present a selection criterion for the Euclidean metric adapted during warmup in a Hamiltonian Monte Carlo sampler that makes it possible for a sampler to automatically pick the metric based on the model and the availability of warmup draws. Additionally, we present a new adaptation inspired by the selection criterion that requires significantly fewer warmup draws to be effective. The effectiveness of the selection criterion and adaptation are demonstrated on a number of applied problems. An implementation for the Stan probabilistic programming language is provided.

연구 동기 및 목표

• 고차원 도함수 또는 복잡한 해법이 필요 없이 사후 분포 기하학에 적응하는 효과적인 유클리드 거리 척도를 선택하는 데 도전하는 것.
• 특히 고상관관계 설정에서 효과적인 거리 척도 적응을 위해 필요한 웜업 샘플 수를 줄이는 것.
• 스탠과 같은 확률적 프로그래밍 프레임워크에 원활하게 통합될 수 있는 실용적이고 확장 가능한 거리 척도 선별 및 적응 방법을 개발하는 것.
• 저랭크 헤시안 근사가 표준 대각형 및 전체 공분산 거리 척도보다 효율 샘플 크기(ESS/s) 측면에서 뛰어나게 작용할 수 있음을 입증하는 것, 특히 짧은 웜업 단계에서 성능이 뛰어나다는 점을 강조한다.

제안 방법

• 선별 기준은 맵 추정치에서의 로그사후분포 헤시안의 고유값을 사용하여 후보 거리 척도를 평가하며, 선형화된 하미튼 역학에서 유도된다.
• 기준은 거리 척도 역행렬의 콜레프스 분해인 $ L $에 대해 행렬 $ L^T \nabla^2_{qq}H(q_0)L $의 고유값을 바탕으로 안정성 지표를 계산한다.
• 랭크 1에서 랭크 8까지의 헤시안 근사에 기반한 새로운 저랭크 거리 척도 적응 기법을 제안하며, 랑츠 알고리즘을 통해 효율적으로 계산된다.
• 헤시안 기반 거리 척도 추정의 안정성을 높이기 위해 역와이소프트 분포 업데이트를 도입한다.
• 선별 기준을 활용해 웜업 동안 거리 척도 유형(대각형, 밀도, 저랭크)을 동적으로 전환하며, 기준 값이 가장 낮은 것을 선택한다.
• 이 방법은 스탠에 구현되어 ESS/s와 $\hat{R}$을 성능 지표로 사용하여 벤치마크 모델에서 평가된다.

실험 결과

연구 질문

• RQ1 전체 사후 분포 샘플링이 필요 없이도 거리 척도의 효과성을 신뢰성 있게 예측할 수 있는 선별 기준을 도출할 수 있는가?
• RQ2 저랭크 헤시안 기반 거리 척도 적응이 표본 공분산 또는 대각 근사보다 적은 웜업 샘플 수로도 높은 샘플링 효율을 달성할 수 있는가?
• RQ3 제안된 거리 척도 적응이 상관관계가 높은 사후 분포에서 표준 스탠 기본 설정(대각형 및 밀도)보다 효율 샘플 크기(ESS/s) 측면에서 뛰어나게 작용하는가?
• RQ4 역와이소프트 분포 업데이트가 헤시안 기반 거리 척도 적응의 안정성과 성능에 어떤 영향을 미치는가?
• RQ5 선별 기준이 웜업 동안 자동으로 동적으로 거리 척도 전환을 가능하게 하여 HMC의 효율성을 향상시킬 수 있는가?

주요 결과

• 선별 기준은 높은 성능을 보이는 거리 척도를 성공적으로 식별하며, 낮은 값일수록 HMC 성능이 뛰어남을 보여주며, 라돈 및 프로페시트 등 다양한 모델에서 효과적이다.
• 선별 기준에 기반한 동적 전환 적응 기법은 대각형, 밀도형, 저랭크 헤시안 거리 척도 중에서 선택하여 고정된 거리 척도와 비교해도 유사하거나 더 높은 ESS/s 성능을 달성한다.
• 라돈 모델에서, 동적 전환 적응 기법은 단지 75개의 웜업 샘플만으로도 최소 ESS/s 370을 기록했으며, 동일 조건에서 대각형 거리 척도를 능가했다.
• 저랭크 헤시안 적응(랭크 1~8)은 전체 표본 공분산에 비해 훨씬 적은 웜업 샘플 수로 효과적인 샘플링을 달성했으며, 특히 고상관관계 설정에서 두각을 나타냈다.
• 역와이소프트 분포 업데이트는 헤시안 기반 거리 척도의 안정성을 향상시켰지만, 모든 경우에서 성능 향상을 보장하지는 않았으며, 그림 4에서 이를 확인할 수 있었다.
• 랑츠 알고리즘이 필요한 고유값과 고유벡터를 효율적으로 계산하여 고차원 모델에 대한 확장성도 확보했다.