[논문 리뷰] Non-Canonical Hamiltonian Monte Carlo

James A. Brofos, Roy R. Lederman|arXiv (Cornell University)|2020. 08. 18.

Markov Chains and Monte Carlo Methods참고 문헌 13인용 수 7

한 줄 요약

이 논문은 해밀턴 몬테카를로(HMC)를 비표준 해밀턴 구조로 확장하여 비표준 해밀턴 HMC(non-canonical HMC)를 제안한다. 이는 해밀턴 역학의 비표준 동역학을 통해 더 효율적인 표본 추출을 가능하게 하며, 세부 균형을 유지하는 암묵적 적분기법과 다르부의 정리를 통한 명시적 근사법을 제안한다. 벤치마크 문제에서 표준 HMC 및 자기장 HMC보다 향상된 효과적 표본 크기를 보여준다.

ABSTRACT

Hamiltonian Monte Carlo is typically based on the assumption of an underlying canonical symplectic structure. Numerical integrators designed for the canonical structure are incompatible with motion generated by non-canonical dynamics. These non-canonical dynamics, motivated by examples in physics and symplectic geometry, correspond to techniques such as preconditioning which are routinely used to improve algorithmic performance. Indeed, recently, a special case of non-canonical structure, magnetic Hamiltonian Monte Carlo, was demonstrated to provide advantageous sampling properties. We present a framework for Hamiltonian Monte Carlo using non-canonical symplectic structures. Our experimental results demonstrate sampling advantages associated to Hamiltonian Monte Carlo with non-canonical structure. To summarize our contributions: (i) we develop non-canonical HMC from foundations in symplectic geomtry; (ii) we construct an HMC procedure using implicit integration that satisfies the detailed balance; (iii) we propose to accelerate the sampling using an {\em approximate} explicit methodology; (iv) we study two novel, randomly-generated non-canonical structures: magnetic momentum and the coupled magnet structure, with implicit and explicit integration.

연구 동기 및 목표

• 표준 해밀턴 구조를 초월한 기하학적 기초를 마련하기 위해.
• 비표준 해밀턴 다양체에서 암묵적 적분을 사용하여 가역적인 HMC 절차를 구성하기 위해.
• 다르부의 정리를 통한 좌표 변환 기반 명시적 적분기법을 통해 표본 추출을 가속화하기 위해.
• 벤치마크 추론 작업에서 비표준 HMC의 성능을 평가하고, 효과적 표본 크기와 계산 효율성을 비교하기 위해.
• 더 나은 표본 추출을 위해 자기장 운동량 및 결합 자기장 역학과 같은 새로운 비표준 구조를 탐색하기 위해.

제안 방법

• 비표준 해밀턴 다양체에서 해밀턴 역학을 정의하기 위해 대칭기하학을 사용하여 표준 HMC 프레임워크를 일반화한다.
• 마르코프 체인의 세부 균형을 유지하기 위해 암묵적 중간점 적분기법을 적용하여 정확한 가역성을 확보한다.
• 비표준 해밀턴 형식을 좌표 변화를 통해 표준 형식으로 변환하기 위해 다르부의 정리를 적용하여 명시적 적분을 가능하게 한다.
• 좌표 변환을 위한 기저 변환 행렬을 계산하기 위해 대칭기하학적 그람-슈미트 절차를 개발한다.
• 변환된 좌표를 사용하여 후행 분포에 대한 충실도를 유지하면서 계산 비용을 줄이는 근사 명시적 적분기법을 구현한다.
• 근사 표본 추출 과정에서 세부 균형을 유지하기 위해 명시적 적분기법과 메트로폴리스-해스팅스 보정을 조합한다.

실험 결과

연구 질문

• RQ1 비표준 해밀턴 다양체에서의 해밀턴 역학이 표준 HMC에 비해 표본 추출 효율성을 향상시킬 수 있는가?
• RQ2 비표준 구조에서의 암묵적 적분이 세부 균형을 유지하고 유효한 MCMC 표본 추출을 보장하는가?
• RQ3 다르부의 정리를 통한 좌표 변환 기반 명시적 적분기법이 암묵적 적분에 비해 계산 비용을 줄이며 후행 분포의 충실도를 유지할 수 있는가?
• RQ4 자기장 운동량 및 결합 자기장 역학과 같은 비표준 구조가 효과적 표본 크기와 표본 추출 효율성에 어떤 영향을 미치는가?
• RQ5 혼합 성능을 향상시키기 위해 비표준 해밀턴 다양체를 체계적으로 생성할 수 있는 방법이 있는가?

주요 결과

• 암묵적 적분을 사용한 비표준 HMC는 벤치마크 문제에서 표준 HMC보다 평균 효과적 표본 크기(ESS)와 1초당 최소 ESS가 높았다.
• 다르부의 정리를 통한 좌표 변환 기반 명시적 적분기법은 진정한 후행 분포에 충실한 표본을 생성했으며, ESS 값은 암묵적 적분과 유사했지만 계산 비용이 감소했다.
• 피츠휴-나구모 모델에서 모든 6가지 방법(표준, 자기장, 비표준 변형)이 근사적으로 일치하는 추론을 도출하여 명시적 근사의 후행 분포 충실도를 검증했다.
• 결합 자기장 및 자기장 운동량 구조는 표본 추출 효율성이 향상되었으며, 표준 HMC를 초월하는 1초당 ESS 값을 기록했다.
• 암묵적 적분기법은 1초당 최소 ESS 2.96–2.97을 기록하여 표준 HMC의 2.97을 초월하며 표본 추출 효율성 향상이 일관되게 이루어졌음을 보였다.
• 명시적 적분기법은 암묵적 방법에 비해 5% 이내의 ESS를 기록하면서 기울기 평가 횟수를 줄여 정확도와 속도 사이의 강력한 트레이드오���을 보였다.