[논문 리뷰] Fast Langevin based algorithm for MCMC in high dimensions

Alain Durmus, Gareth O. Roberts외 2명|arXiv (Cornell University)|2015. 07. 08.

Markov Chains and Monte Carlo Methods참고 문헌 40인용 수 11

한 줄 요약

이 논문은 최적화된 가우시안 제안을 사용하여 고차원 대상 분포에서 MCMC 효율성을 향상시키는 빠른 메트로폴리스 조정 랑주 방정식(fMALA)을 소개한다. fMALA는 최적 수렴 속도 𝒪(d¹/⁵)를 달성하며, MALA의 𝒪(d¹/³)보다 유의미하게 뛰어나며, 점차적 수용률 0.704와 기하학적 에르고딕성을 보이며, 이는 이론적 확산 극한과 제품 및 비제품 밀도에 대한 수치 실험을 통해 검증되었다.

ABSTRACT

We introduce new Gaussian proposals to improve the efficiency of the standard Hastings-Metropolis algorithm in Markov chain Monte Carlo (MCMC) methods, used for the sampling from a target distribution in large dimension $d$. The improved complexity is $\mathcal{O}(d^{1/5})$ compared to the complexity $\mathcal{O}(d^{1/3})$ of the standard approach. We prove an asymptotic diffusion limit theorem and show that the relative efficiency of the algorithm can be characterised by its overall acceptance rate (with asymptotical value 0.704), independently of the target distribution. Numerical experiments confirm our theoretical findings.

연구 동기 및 목표

• 표준 MCMC 방법의 고차원에서의 열악한 스케일링 문제를 해결하기 위해, 특히 MALA의 𝒪(d¹/³) 수렴 속도를 개선하고자 한다.
• 이산화에 의한 편향을 도입하지 않고도 목표 밀도에 대한 고차 정보를 통합함으로써 더 빠른 수렴을 달성하는 기울기 기반 MCMC 알고리즘을 개발하고자 한다.
• 새로운 알고리즘에 대한 이론적 확산 극한을 수립하고, 점차적 수용률과 약한 수렴을 통해 효율성을 특성화하고자 한다.
• 제품 및 비제품 목표 밀도에 대한 수치 실험을 통해 기하학적 에르고딕성과 향상된 믹싱 성질을 입증하고자 한다.

제안 방법

• 라운지 방정식 SDE의 오일러-마르야모 이산화를 수정하여 약한 순서와 수렴 행동을 향상시키는 새로운 가우시안 제안 메커니즘을 제안한다.
• 점차적 확산 극한 분석에서 유도된 최적화된 스텝 크기 스케일링 h = 1.79²d⁻¹/⁵를 가진 수정된 1단계 적분기 도입.
• 약한 수렴 이론을 활용하여 fMALA 과정의 확산 극한을 유도하고, 불변 측도 π를 가진 확산으로 수렴함을 보여준다.
• fMALA와 RWM 제안을 조합하는 하이브리드 전략을 활용하여 일시적 단계 성능을 안정화시키고 초기 반복에서의 강건성을 향상시킨다.
• d¹/⁵ 스케일링에 따라 첫 번째 순서 효율성 지표를 분석하고, 다양한 차원에서 MALA 및 RWM와 비교한다.
• Cauchy 혁신을 가진 제품 밀도와 비제품 AR(1) 모델에 대한 수치 실험을 통해 이론적 결과를 검증한다.

실험 결과

연구 질문

• RQ1 기울기 기반 MCMC 알고리즘이 고차원에서 MALA의 𝒪(d¹/³)보다 더 나은 수렴 속도를 달성할 수 있는가?
• RQ2 수정된 랑주 제안을 위한 최적의 스텝 크기 h는 기하학적 에르고딕성과 빠른 믹싱을 보장하기 위해 어떻게 설정되어야 하는가?
• RQ3 0.704의 점차적 수용률이 목표 분포에 관계없이 새로운 알고리즘의 상대적 효율성을 특성화하는가?
• RQ4 fMALA 알고리즘은 비제품 목표 밀도에서 표준 MALA보다 일시적 단계와 정적 상태 단계 모두에서 어떻게 성능을 발휘하는가?
• RQ5 fMALA와 RWM을 조합하는 하이브리드 기법이 초기 반복에서 수렴 강건성을 향상시킬 수 있는가?

주요 결과

• fMALA 알고리즘은 𝒪(d¹/⁵)의 수렴 속도를 달성하여, MALA의 𝒪(d¹/³)와 RWM의 𝒪(d⁻¹) 스케일링을 초월한다.
• fMALA의 점차적 수용률은 0.704로 수렴하며, 이는 목표 분포에 관계없이 상대적 효율성을 특성화한다.
• 수치 실험 결과, fMALA의 첫 번째 순서 효율성은 d¹/⁵ 스케일링 하에서 0이 아닌 극한으로 수렴하는 것으로 확인되었으며, 같은 스케일링 하에서 MALA의 효율성은 0으로 수렴한다.
• fMALA 알고리즘은 MALA 및 RWM보다 더 빠른 자동상관 계수 감쇠를 보이며, 정적 상태에서 뛰어난 믹싱 성질을 나타낸다.
• fMALA와 RWM을 조합한 하이브리드 fMALA 기법은 일시적 단계에서 강건한 성능을 보이며, 기대 제곱 효율성 측면에서 표준 MALA를 능가한다.
• 비제품 밀도이지만 삼중대각 야코비안을 가진 경우에도 fMALA 알고리즘은 반복당 𝒪(d) 계산 비용을 유지한다.