[논문 리뷰] High-Order Langevin Diffusion Yields an Accelerated MCMC Algorithm

Wenlong Mou, Yi-An Ma외 3명|arXiv (Cornell University)|2021. 01. 01.

Markov Chains and Monte Carlo Methods인용 수 38

한 줄 요약

이 논문은 고차원 동역학과 분할 적분기를 활용하여 더 빠른 수렴을 달성하는 제3차 랭지비안 확산 기반 MCMC 알고리즘을 제안한다. 특히 일반선형모형에서와 같이 로그볼록성과 스무스함을 갖는 타겟 분포에 대해, 오직 리프시츠 연속 기울기 조건만을 가정할 때, 워샤르스타인 거리에서 $\varepsilon$-정확도에 도달하는 데 $O\left(\frac{d^{1/4}}{\varepsilon^{1/2}}\right)$ 단계가 필요하며, 기존 방법에 비해 혼합 시간이 크게 향상된다.

ABSTRACT

We propose a Markov chain Monte Carlo (MCMC) algorithm based on third-order Langevin dynamics for sampling from distributions with log-concave and smooth densities. The higher-order dynamics allow for more flexible discretization schemes, and we develop a specific method that combines splitting with more accurate integration. For a broad class of $d$-dimensional distributions arising from generalized linear models, we prove that the resulting third-order algorithm produces samples from a distribution that is at most $\varepsilon > 0$ in Wasserstein distance from the target distribution in $O\left(\frac{d^{1/4}}{ \varepsilon^{1/2}} ight)$ steps. This result requires only Lipschitz conditions on the gradient. For general strongly convex potentials with $\alpha$-th order smoothness, we prove that the mixing time scales as $O \left(\frac{d^{1/4}}{\varepsilon^{1/2}} + \frac{d^{1/2}}{\varepsilon^{1/(\alpha - 1)}} ight)$.

연구 동기 및 목표

• 고차원 로그볼록 분포에서 최소한의 스무스함 가정 하에 가속화된 MCMC 알고리즘을 개발하는 것.
• 제3차 동역학을 활용하여 이산화 정확도와 수렴 속도를 향상시키는 것.
• 리프시츠 기울기 조건과 강한 볼록성 조건 하에서 제안된 방법의 엄밀한 혼합 시간 경계를 확립하는 것.
• 일반선형모형과 일반적인 강한 볼록 잠재함수에서 표준 제2차 랭지비안 MCMC에 비해 향상된 수렴 속도를 보여주는 것.

제안 방법

• 샘플링 과정을 모델링하기 위해 제3차 랭지비안 동역학을 사용하여 연속시간 확산을 더 정확하게 근사한다.
• 해결 가능한 구성요소로 동역학을 분해하기 위해 분할 적분기를 사용하여 수치적 안정성과 정확도를 향상시킨다.
• 이중 적분 기법과 연산자 분할을 조합하여 이산화 오차를 줄인다.
• 세부 균형을 유지하고 미약한 정규성 조건 하에서 목표 분포로 수렴하도록 알고리즘을 설계한다.
• 커플링 추론과 리아푸노프 함수 기법을 활용하여 워샤르스타인 거리의 정적 상태에 대한 경계를 이론적으로 도출한다.
• 알고리즘은 $\alpha$-차 스무스함을 갖는 일반적인 강한 볼록 잠재함수와 일반선형모형에 적용된다.

실험 결과

연구 질문

• RQ1 표준 제2차 방법에 비해 제3차 랭지비안 동역학이 더 빠른 혼합 시간을 갖는 MCMC 알고리즘을 제공할 수 있는가?
• RQ2 오직 리프시츠 기울기 조건만을 가정할 때, 고차원 MCMC 알고리즘의 최적 혼합 시간은 무엇인가?
• RQ3 강한 볼록성과 스무스함 조건 하에서, 차원 $d$와 정확도 $\varepsilon$에 따라 수렴 속도는 어떻게 스케일링되는가?
• RQ4 분할 적분기가 실질적으로 고차원 랭지비안 MCMC의 수렴을 향상시킬 수 있는가?

주요 결과

• 로그볼록성과 스무스함을 갖는 $d$차원 일반선형모형에서, 알고리즘은 워샤르스타인 거리에서 $\varepsilon$-정확도에 $O\left(\frac{d^{1/4}}{\varepsilon^{1/2}}\right)$ 단계 내에 도달한다.
• 수렴 속도는 고차원 스무스함이 아닌 기울기의 리프시츠 연속성에만 의존하므로, 광범위한 모델 클래스에 적용 가능하다.
• 일반적인 강한 볼록 잠재함수에 대해 $\alpha$-차 스무스함이 성립할 경우, 혼합 시간은 $O\left(\frac{d^{1/4}}{\varepsilon^{1/2}} + \frac{d^{1/2}}{\varepsilon^{1/(\alpha - 1)}}\right)$ 스케일링된다.
• 제3차 동역학은 더 민첩하고 정확한 이산화를 가능하게 하여 수렴에 필요한 단계 수를 감소시킨다.
• 특히 고차원 환경에서 표준 제2차 랭지비안 MCMC에 비해 향상된 수렴 속도를 달성한다.