[논문 리뷰] Exponential ergodicity of mirror-Langevin diffusions

Sinho Chewi, Thibaut Le Gouic외 4명|arXiv (Cornell University)|2020. 05. 19.

Markov Chains and Monte Carlo Methods참고 문헌 63인용 수 15

한 줄 요약

이 논문은 빛조절 불량한 로그볼록 분포에서 표본 추출을 위한 프레임워크로 미러-랑제비안 확산(Mirror-Langevin diffusions, MLD)을 제안하며, 특히 차원에 영향을 받지 않고 분포에 독립적인 지수적 에르고디시티를 달성하는 뉴턴-랑제비안 확산(Newton-Langevin diffusions, NLD)에 초점을 맞춘다. KL 발산 대신 카이제곱 발산을 추적함으로써, 저속 수렴을 위한 거울 편의성 부등식(mirror Poincaré inequalities)을 충족시키는 조건을 확립하여, 헤시안의 특이성이 발생하더라도 안정적인 표본 추출 알고리즘을 도출한다.

ABSTRACT

Motivated by the problem of sampling from ill-conditioned log-concave distributions, we give a clean non-asymptotic convergence analysis of mirror-Langevin diffusions as introduced in Zhang et al. (2020). As a special case of this framework, we propose a class of diffusions called Newton-Langevin diffusions and prove that they converge to stationarity exponentially fast with a rate which not only is dimension-free, but also has no dependence on the target distribution. We give an application of this result to the problem of sampling from the uniform distribution on a convex body using a strategy inspired by interior-point methods. Our general approach follows the recent trend of linking sampling and optimization and highlights the role of the chi-squared divergence. In particular, it yields new results on the convergence of the vanilla Langevin diffusion in Wasserstein distance.

연구 동기 및 목표

• 빛조절 불량한 고차원 로그볼록 분포에 대한 MCMC의 느린 혼합 문제를 해결하기 위해.
• 랑제비안 동역학의 일반화인 미러-랑제비안 확산(Mirror-Langevin diffusions, MLD)에 대한 비점근 수렴 분석을 개발하기 위해.
• 특히 뉴턴-랑제비안 확산(Newton-Langevin diffusions, NLD)을 통해 차원과 대상 분포에 영향을 받지 않는 지수적 에르고디시티를 확립하기 위해.
• 워샤르슈타인 기울기 흐름과 거울 내림(descents)을 통해 표본 추출과 최적화를 연결하고, 카이제곱 발산의 역할을 강조하기 위해.
• 매우 빛조절 불량한 환경에서 표준 및 조정되지 않은 랑제비안 알고리즘의 안정적이고 확장 가능한 대안을 제공하기 위해.

제안 방법

• 거울 지도(mirror map)를 사용해 공간 기하학을 변화시켜 워샤르슈타인 공간에서 KL 발산을 최소화하는 확률적 과정으로서의 미러-랑제비안 확산(Mirror-Langevin diffusions, MLD)을 도입한다.
• 수렴 추적을 위해 카이제곱 발산을 대체 목적 함수로 사용하며, 이는 지수적 에르고디시티를 위한 거울 편의성 부등식(mirror Poincaré inequalities)을 충족시키는 충분조건이 된다.
• 거울 지도가 잠재함수 $V$와 동일한 특수한 경우에 적용하여 뉴턴-랑제비안 확산(Newton-Langevin diffusions, NLD)을 도출하며, 이는 뉴턴의 방법의 표본 추출 해석에 해당한다.
• 브라스앰프-라이브 부등식을 활용해 NLD가 대상 분포 $\pi$와 차원 $d$에 영향을 받지 않는 지수적 수렴 속도를 가짐을 증명한다.
• MLD의 이산화된 형태인 미러-랑제비안 알고리즘(Mirror-Langevin algorithm, MLA)을 유도하며, 이는 수치 실험에서 ULA보다 안정성과 더 빠른 수렴을 유지한다.
• 빛조절 불량한 환경에서 안정성을 확보하면서도 빠른 수렴을 유지하기 위해 실험에서 $\phi(x) = \|x\|^{3/2}$의 맞춤형 거울 지도를 활용한다.

실험 결과

연구 질문

• RQ1 미러-랑제비안 확산은 차원과 대상 분포에 영향을 받지 않는 지수적 에르고디시티를 달성할 수 있는가?
• RQ2 KL 발산 대신 카이제곱 발산을 추적함으로써 표본 추출 알고리즘의 수렴 분석이 어떻게 향상되는가?
• RQ3 잠재함수의 헤시안이 특이해질 경우 뉴턴-랑제비안 확산(Newton-Langevin diffusions, NLD)의 수렴 행동은 어떠한가?
• RQ4 미러-랑제비안 프레임워크는 매우 빛조절 불량한 환경에서 안정적이고 신속한 혼합을 보이는 표본 추출 알고리즘을 설계하는 데 사용될 수 있는가?
• RQ5 거울 지도의 선택은 MLA와 같은 이산화된 표본 추출 알고리즘의 안정성과 수렴에 어떤 영향을 미치는가?

주요 결과

• 뉴턴-랑제비안 확산(Newton-Langevin diffusions, NLD)은 코로나리 1에서 보듯이, 차원에 영향을 받지 않고 대상 분포 $\pi$에 독립적인 지수적 수렴 속도를 보이며, 정상 상태에 매우 신속하게 수렴한다.
• NLD의 수렴 속도는 척도 불변성(scale-invariant)을 가지며, $\nabla^2 V$가 0에 매우 가까워지더라도 여전히 $O(1)$을 유지한다. 이는 빛조절 불량 문제에서의 핵심 이점이다.
• 브라스앰프-라이브 조건 하에서 성립하는 거울 편의성 부등식은 카이제곱 발산에서의 지수적 수렴을 보장하며, 이는 KL, 헬링거, 총변동 발산 등의 다른 발산에서도 빠른 수렴을 의미한다.
• 수치 실험 결과, NLA는 초도 단계에서 매우 빠르게 수렴하지만, $\|x\|$가 작아질수록 원점 근처에서 헤시안의 폭발로 인해 불안정해지는 경향을 보였다.
• 적절히 선택된 거울 지도 $\phi(x) = \|x\|^{3/2}$를 사용한 미러-랑제비안 알고리즘(MLA)은 ULA 및 TULA보다 더 빠른 수렴을 달성하면서도 안정성을 유지하며, 혼합 시간이 $O(\beta^{-1/2})$ 비례함을 보였다.
• 이론적 혼합 시간에서 ULA는 $O(\beta^{-1})$ 비례하고 MLA는 $O(\beta^{-1/2})$ 비례하므로, 실험에서 관측된 더 빠른 수렴을 설명할 수 있다.