[논문 리뷰] The Randomized Midpoint Method for Log-Concave Sampling

Ruoqi Shen, Yin Tat Lee|arXiv (Cornell University)|2019. 09. 12.

Markov Chains and Monte Carlo Methods인용 수 25

한 줄 요약

이 논문은 고차원 로그-볼록 분포에서 샘플링하기 위한 새로운 마르코프 체인 몬테카를로 알고리즘을 제안한다. 이 알고리즘은 과소확산 랑주방정식 기반으로 하며, 2-워샤르슈타인 거리에서 $\epsilon \cdot D$ 오차를 달성하는 데 $\tilde{O}(\kappa^{7/6}/\epsilon^{1/3} + \kappa/\epsilon^{2/3})$ 단계가 소요되며, 이는 이전 방법의 $\tilde{O}(\kappa^{1.5}/\epsilon)$ 복잡도에 비해 크게 향상된 성능이다. 또한 오직 $O(\kappa \log \frac{1}{\epsilon})$ 개의 병렬 단계로만 병렬 처리가 가능하여 효율적인 병렬화를 가능하게 한다.

ABSTRACT

Sampling from log-concave distributions is a well researched problem that has many applications in statistics and machine learning. We study the distributions of the form $p^{*}\propto\exp(-f(x))$, where $f:\mathbb{R}^{d} ightarrow\mathbb{R}$ has an $L$-Lipschitz gradient and is $m$-strongly convex. In our paper, we propose a Markov chain Monte Carlo (MCMC) algorithm based on the underdamped Langevin diffusion (ULD). It can achieve $ε\cdot D$ error (in 2-Wasserstein distance) in $ ilde{O}\left(κ^{7/6}/ε^{1/3}+κ/ε^{2/3} ight)$ steps, where $D\overset{\mathrm{def}}{=}\sqrt{\frac{d}{m}}$ is the effective diameter of the problem and $κ\overset{\mathrm{def}}{=}\frac{L}{m}$ is the condition number. Our algorithm performs significantly faster than the previously best known algorithm for solving this problem, which requires $ ilde{O}\left(κ^{1.5}/ε ight)$ steps. Moreover, our algorithm can be easily parallelized to require only $O(κ\log\frac{1}ε)$ parallel steps. To solve the sampling problem, we propose a new framework to discretize stochastic differential equations. We apply this framework to discretize and simulate ULD, which converges to the target distribution $p^{*}$. The framework can be used to solve not only the log-concave sampling problem, but any problem that involves simulating (stochastic) differential equations.

연구 동기 및 목표

• 고차원 로그-볼록 분포에서 더 빠른 샘플링 알고리즘을 개발하여 조건수 $\kappa$와 오차 허용치 $\epsilon$에 대한 의존도를 향상시키는 것.
• 기존 최첨단 방법의 $\tilde{O}(\kappa^{1.5}/\epsilon)$ 복잡도 한계를 극복하는 것.
• 비틀린 랑주방정식의 시뮬레이션을 가능하게 하는 SDE 이산화 프레임워크를 설계하는 것.
• 메트로폴리스 조정 또는 고차 수렴성 가정 없이도 $\epsilon$에 대한 비선형 의존도를 확보하는 것.
• 샘플링 과정의 효율적 병렬화를 실현하여 병렬 단계 수를 $O(\kappa \log \frac{1}{\epsilon})$로 감소시키는 것.

제안 방법

• 특히 비틀린 랑주방정식(ULD) 시뮬레이션을 위해 최적화된 SDE 이산화 프레임워크를 제안한다.
• L-립시츠 연속 기울기와 m-강볼록성 조건 하에서 안정성과 수렴성을 보장하는 랜덤화된 중간점 방법을 도입하여 SDE의 해를 근사한다.
• 각 단계에서 R개의 하위단계를 사용하는 다단계 통합 기법을 적용하며, 각 하위단계는 오차 전파를 제어하기 위해 랜덤화된 중간점 근사를 적용한다.
• SDE의 추력항과 확산항의 이산화 오차를 제어하기 위해 속도 과정의 재귀적 근사를 사용한다.
• SDE의 기울기와 확산항 이산화 오차의 경계를 유도하며, 이는 $\nabla f$의 L-립시츠 연속성과 $f$의 강볼록성 조건을 기반으로 하며, 목표 분포 $p^* \propto \exp(-f(x))$로의 수렴을 보장한다.
• 문제 크기의 척도 불변 측정으로 효과적 지름 $D = \sqrt{d/m}$을 활용하여 척도 불변 수렴 보장을 가능하게 한다.

실험 결과

연구 질문

• RQ1 조건수 $\kappa$와 오차 허용치 $\epsilon$에 대한 의존도가 향상된 로그-볼록 분포에 대해 더 빠른 샘플링 수렴을 달성할 수 있는가?
• RQ2 표준 $L$-립시츠 조건과 $m$-강볼록성 조건 하에서, 메트로폴리스 조정 없이도 $\epsilon$에 대한 비선형 의존도를 확보할 수 있는가?
• RQ3 고정밀도와 효율적 병렬 처리를 동시에 가능하게 하는 SDE 이산화 프레임워크를 개발할 수 있는가?
• RQ4 기존의 SDE 이산화 방법과 비교해 볼 때, 랜덤화된 중간점 방법은 수렴 속도와 안정성 측면에서 어떤가?
• RQ5 로거스-볼록 샘플링에서 2-워샤르슈타인 거리에서 $\epsilon \cdot D$ 오차를 달성하기 위해 필요한 최소 병렬 단계 수는 얼마인가?

주요 결과

• 제안된 알고리즘은 2-워샤르슈타인 거리에서 $\epsilon \cdot D$ 오차를 달성하는 데 $\tilde{O}(\kappa^{7/6}/\epsilon^{1/3} + \kappa/\epsilon^{2/3})$ 단계가 소요되며, 이는 이전 최고 성능인 $\tilde{O}(\kappa^{1.5}/\epsilon)$ 보다 향상된 성능이다.
• 이 알고리즘은 표준 $L$-립시츠 및 $m$-강볼록성 조건 하에서, 메트로폴리스 조정 없이도 $\epsilon$에 대한 비선형 의존도를 확보한 최초의 방법이다.
• 이 방법은 오직 $O(\kappa \log \frac{1}{\epsilon})$ 개의 병렬 단계로만 병렬 처리가 가능하여, 벽시계 시간을 크게 감소시킨다.
• 오차 분석을 통해 이산 속도 과정이 연속 속도 과정에서 벗어나는 정도를 날카롭게 경계하며, 재귀적 근사와 립시츠 연속성을 활용한다.
• 이 프레임워크는 일반적이며, 로그-볼록 샘플링 외에도 (스토크레틱) 미분방정식 시뮬레이션을 포함한 모든 문제에 적용 가능하다.
• 효과적 지름 $D = \sqrt{d/m}$을 척도 불변 오차 척도로 사용함으로써, 이전 정의를 명확히 하고 통합하며, $f$의 스케일링 및 텐서화에 대해 결과가 불변이 되도록 한다.