[논문 리뷰] Nonreversible Langevin Samplers: Splitting Schemes, Analysis and Implementation

A. Duncan, Grigorios A. Pavliotis외 1명|arXiv (Cornell University)|2017. 01. 16.

Markov Chains and Monte Carlo Methods참고 문헌 45인용 수 15

한 줄 요약

이 논문은 비가역 확산을 가역성 및 비가역성 성분으로 분해하기 위해 Lie-Trotter 분할 기법을 사용하는 비가역 랭지비안 샘플러를 제안한다. 이는 혼합 속도를 크게 향상시키고 점근적 분산을 감소시킨다. 이 방법은 기하학적 에르고딕성을 보장하고 편향을 통제하며, 로지스틱 회귀 및 공간 모델을 포함한 저차원 및 고차원 문제에서 표준 MCMC보다 수렴성과 효율성이 뛰어나다.

ABSTRACT

For a given target density, there exist an infinite number of diffusion processes which are ergodic with respect to this density. As observed in a number of papers, samplers based on nonreversible diffusion processes can significantly outperform their reversible counterparts both in terms of asymptotic variance and rate of convergence to equilibrium. In this paper, we take advantage of this in order to construct efficient sampling algorithms based on the Lie-Trotter decomposition of a nonreversible diffusion process into reversible and nonreversible components. We show that samplers based on this scheme can significantly outperform standard MCMC methods, at the cost of introducing some controlled bias. In particular, we prove that numerical integrators constructed according to this decomposition are geometrically ergodic and characterise fully their asymptotic bias and variance, showing that the sampler inherits the good mixing properties of the underlying nonreversible diffusion. This is illustrated further with a number of numerical examples ranging from highly correlated low dimensional distributions, to logistic regression problems in high dimensions as well as inference for spatial models with many latent variables.

연구 동기 및 목표

• 비가역 확산 과정을 활용하여 가역성 대비 혼합 속도와 수렴 속도에서 뛰어난 성능을 보이는 효율적인 MCMC 샘플링 방법을 개발한다.
• 비가역 SDE의 Lie-Trotter 분할 기반 수치 적분기를 구성하여 기저 확산 과정의 유리한 에르고딕 성질을 유지한다.
• 결과 샘플러의 점근적 편향과 분산을 특성화하여 정확성과 효율성 사이의 통제 가능한 트레이드오���을 확보한다.
• 고차원 로지스틱 회귀 및 잠재 변수를 포함한 공간 모델을 포함한 도전적인 문제들에서 제안된 방법의 실용적 우수성을 입증한다.

제안 방법

• 비가역 Itô SDE를 Lie-Trotter 분할 기법을 사용해 가역성 및 비가역성 성분으로 분해함으로써 안정적이고 효율적인 수치 적분을 가능하게 한다.
• SDE의 무한소 생성자를 분석하여 기하학적 에르고디시티를 확보하고, 추정기의 점근적 분산 및 편향에 대한 경계를 유도한다.
• 분할 기법을 적용하여 기저 비가역 확산 과정의 빠른 혼합 성질을 물려받는 수치 샘플러를 구축한다.
• Pinsker의 부등식과 Girsanov의 정리를 사용하여 수치 전이 커널과 정확한 전이 커널 사이의 총 변동 거리에 대한 경계를 설정함으로써 수렴성을 보장한다.
• 전이 커널 근사의 오차에 대한 경계를 포함하며, 작은 $\Delta t$에서 총 변동 거리에 대해 수렴 속도가 $\mathcal{O}(\Delta t^{1/2})$임을 보여준다.
• 이 방법은 다양한 문제들에 대해 구현 및 테스트되었으며, 특히 상호상관이 높은 사후분포, 로지스틱 회귀, 잠재 변수를 포함한 공간 모델이 포함된다.

실험 결과

연구 질문

• RQ1 Lie-Trotter 분할을 통해 구성된 비가역 랭지비안 샘플러는 표준 가역 MCMC 방법보다 더 빠른 수렴 속도와 더 낮은 점근적 분산을 달성할 수 있는가?
• RQ2 분할 기법은 샘플러의 기하학적 에르고딕성과 장기적 행동에 어떤 영향을 미치는가?
• RQ3 비가역 성분의 정량적 영향은 추정기의 점근적 분산과 편향에 어떤가?
• RQ4 제안된 방법은 고차원 및 상당히 상관관계가 높은 사후 분포에서 효율성과 안정성을 유지할 수 있는가?
• RQ5 편향과 분산에 대한 이론적 경계는 실제 통계 모델에서의 경험적 성능와 어떻게 비교되는가?

주요 결과

• Lie-Trotter 분할 기반으로 제안된 비가역 랭지비안 샘플러는 기하학적 에르고딕성을 확보하여 타겟 분포로의 거의 확실한 수렴을 보장한다.
• 가역 샘플러 대비 추정기의 점근적 분산이 감소하여 몬테카를로 추정에서 더 빠른 수렴 속도를 달성한다.
• 수치 전이 커널과 정확한 전이 커널 사이의 총 변동 거리에서 순서 $\mathcal{O}(\Delta t^{1/2})$의 통제 가능한 편향이 발생한다.
• 수치 실험 결과에서 혼합 속도와 수렴 속도 향상이 뚜렷하게 관찰되었으며, 특히 고차원 로지스틱 회귀 및 잠재 변수를 포함한 공간 모델에서 두드러졌다.
• 이론적 분석은 샘플러가 기저 비가역 확산의 양호한 혼합 성질을 물려받으며, 비가역 드리프트 $\gamma(x)$의 최적 선택을 통해 분산 감소가 가능함을 확인한다.
• 경로 측도에서는 $\mathcal{O}(\Delta t)$의 편향, 전이 커널에서는 $\mathcal{O}(\Delta t^{1/2})$의 편향을 달성하여 작은 스텝 크기에서 안정적이고 정확한 샘플링을 보장한다.