[논문 리뷰] Introducing an Explicit Symplectic Integration Scheme for Riemannian Manifold Hamiltonian Monte Carlo

Adam D. Cobb, Atılım Güneş Baydin외 2명|arXiv (Cornell University)|2019. 10. 14.

Model Reduction and Neural Networks참고 문헌 33인용 수 18

한 줄 요약

이 논문은 비분리 해밀토니안을 위한 리만다만드 링크스몬테카를로(RMHMC)에 적합한 명시적 심플렉틱 적분기를 도입하여, 리프로그 단계 동안 반복적인 고정점 해법의 필요성을 줄였다. 고차 도함수 계산을 최소화함으로써, 유사한 샘플링 정확도를 유지하면서도 암시적 RMHMC 대비 거의 두 배 빠른 속도를 달성하였으며, 이는 오픈소스 hamiltorch 패키지를 사용하여 베이지안 로지스틱 회귀 및 계층 모델에서 검증되었다.

ABSTRACT

We introduce a recent symplectic integration scheme derived for solving physically motivated systems with non-separable Hamiltonians. We show its relevance to Riemannian manifold Hamiltonian Monte Carlo (RMHMC) and provide an alternative to the currently used generalised leapfrog symplectic integrator, which relies on solving multiple fixed point iterations to convergence. Via this approach, we are able to reduce the number of higher-order derivative calculations per leapfrog step. We explore the implications of this integrator and demonstrate its efficacy in reducing the computational burden of RMHMC. Our code is provided in a new open-source Python package, hamiltorch.

연구 동기 및 목표

• 비분리 해밀토니안으로 인해 발생하는 RMHMC의 높은 계산 비용을 해결하기 위해.
• RMHMC의 리프로그 단계에서 고차 도함수 계산 횟수를 줄이기 위해.
• 기존 암시적 방법에서 사용하는 반복적 해법을 피하는 더 효율적인 명시적 심플렉틱 적분기를 개발하기 위해.
• 베이지안 신경망과 같은 복잡한 모델에 대해 RMHMC의 확장성과 실용성을 향상시키기 위해.
• 더 넓은 보급을 위해 사용자 친화적이고 GPU 가속 기능을 갖춘 hamiltorch 파이썬 패키지를 통해 구현을 제공하기 위해.

제안 방법

• 비분리 해밀토니안을 위한 RMHMC에 특화된 명시적 심플렉틱 적분 기법을 제안한다.
• 다중 고정점 반복을 필요로 하는 암시적 일반화 리프로그 적분기를 직접적인 명시적 업데이트 규칙으로 대체한다.
• 파이토치를 통한 자동 미분을 활용하여 필요한 리만 기하학적 양(메트릭, 크리스톼프 기호 등)을 효율적으로 계산한다.
• 심플렉틱 구조를 유지하면서도 고차 도함수 계산에 의한 계산 오버헤드를 최소화하는 적분기를 설계한다.
• hamiltorch 패키지에 해당 방법을 구현하여, 최소한의 코드 수정으로 GPU 기반 샘플링을 가능하게 한다.
• 통합된 API를 통해 HMC, RMHMC, 명시적 RMHMC 간의 원활한 전환을 지원한다.

실험 결과

연구 질문

• RQ1 명시적 심플렉틱 적분기는 샘플링 정확도를 희생시키지 않고 RMHMC의 계산 부담을 줄일 수 있는가?
• RQ2 벽시계 시간과 수렴 성능 측면에서 명시적 RMHMC는 암시적 RMHMC와 비교해 어떻게 성능을 내는가?
• RQ3 새로운 적분기는 리프로그 단계당 고차 도함수 평가 횟수를 어느 정도 줄이는가?
• RQ4 명시적 RMHMC는 터널 분포와 같은 도전적인 사후 기하학적 구조에서도 암시적 RMHMC와 유사한 사후 근사 품질을 달성할 수 있는가?
• RQ5 실제 모델, 예를 들어 베이지안 로지스틱 회귀 및 계층 모델에서 이 새로운 방법은 실제로 어떻게 확장되는가?

주요 결과

• 명시적 RMHMC는 암시적 RMHMC 대비 벽시계 속도를 거의 2배로 높였으며, 수렴까지의 시간을 약 2/3 감소시켰다.
• 속도 향상에도 불구하고 명시적 RMHMC는 유사한 샘플링 성능을 유지하였으며, 진짜 사후분포와의 KL 발산이 0.142로 암시적 RMHMC의 0.130과 유사했다.
• 효율적 샘플 크기(ESS)는 HMC나 NUTS보다 둘 다 더 높았으며, 자동상관관계가 더 빨리 감소하고 시간이 지남에 따라 DKL(p(v)∥q(v))가 더 빨리 평형에 도달하는 것으로 나타났다.
• 반복적인 고정점 해법을 피함으로써 리프로그 단계당 고차 도함수 계산 횟수를 줄여 계산 비용을 직접적으로 낮추었다.
• 431,080개의 파라미터를 가진 베이지안 신경망에서, hamiltorch는 GPU 기반으로 초당 116.33개의 샘플을 생성했고, CPU 기반으로는 13.92개에 그쳤다. 이는 강력한 하드웨어 가속 효과를 보여준다.
• 명시적 RMHMC에서 추정한 주변 분포는 특히 터널의 좁은 목 부분과 같은 고곡률 영역에서 진짜 사후분포와 더 잘 일치하며, 편향이 낮았다.