[논문 리뷰] Non-asymptotic convergence analysis for the Unadjusted Langevin Algorithm

Alain Durmus, Miljko Erić|SPIRE - Sciences Po Institutional REpository|2015. 07. 17.

Markov Chains and Monte Carlo Methods참고 문헌 33인용 수 96

한 줄 요약

이 논문은 총변화 거리에서 조정되지 않은 랭게빈 알고리즘(Underdamped Langevin Algorithm, ULA)에 대한 비점근 수렴 경계를 제공하며, 일정한 단계 크기와 감소하는 단계 크기 모두를 분석한다. 높은 차원의 목표 분포에서 샘플링을 위한 차원에 의존하는 수렴 속도를 수립하며, 잠재력의 매끄러움과 곡률이 샘플링 정확도와 효율성에 미치는 영향을 정량화하여 이전 연구를 향상시킨다.

ABSTRACT

In this paper, we study a method to sample from a target distribution $π$ over $\mathbb{R}^d$ having a positive density with respect to the Lebesgue measure, known up to a normalisation factor. This method is based on the Euler discretization of the overdamped Langevin stochastic differential equation associated with $π$. For both constant and decreasing step sizes in the Euler discretization, we obtain non-asymptotic bounds for the convergence to the target distribution $π$ in total variation distance. A particular attention is paid to the dependency on the dimension $d$, to demonstrate the applicability of this method in the high dimensional setting. These bounds improve and extend the results of (Dalalyan 2014).

연구 동기 및 목표

• 총변화 거리에서 조정되지 않은 랭게빈 알고리즘(Underdamped Langevin Algorithm, ULA)에 대한 비점근적이고 계산 가능한 수렴 경계를 제공하는 것.
• 수렴 속도가 차원 $ d $, 단계 크기 $ \gamma $, 잠재력 $ U $ 의 매끄러움 성질에 어떻게 의존하는지 분석하는 것.
• 높은 차원 설정에서 일정한 단계 크기와 감소하는 단계 크기 모두에 대해 더 날카운 경계를 제공함으로써 기존 결과를 확장하는 것.
• 감소하는 단계 크기를 갖는 비동질 마르코프 체인에 대해서도 약한 조건 하에서 목표 분포 $ \pi $ 로의 수렴을 확립하는 것.

제안 방법

• 논문은 과다감쇠 랭게빈 SDE $ \mathrm{d}Y_t = -\nabla U(Y_t)\mathrm{d}t + \sqrt{2}\mathrm{d}B_t^d $ 의 옐러-마르야모 이산화를 사용하여 ULA 마르코프 체인을 정의한다.
• 반사 커플링 기법과 커플링 기반 추론을 적용하여 ULA 체인의 법칙과 목표 측도 $ \pi $ 간의 총변화 거리에 대한 경계를 유도한다.
• 일정한 단계 크기의 경우, $ V $-균일 기하적 정규성과 정적 분포 $ \pi_\gamma $ 와 목표 $ \pi $ 간의 $ V $-총변화 거리 경계를 유도한다.
• 감소하는 단계 크기의 경우, 여유분 분포가 $ \pi $ 로 거의 확실히 수렴함을 증명하며, 총변화 거리에 대한 명시적 비점근 경계를 제공한다.
• 분석은 기능 부등식과 드리프트 조건에 기반하며, 특히 기저 SDE 의 생성자 및 준군 성질을 활용한다.
• 리아파노프 함수 $ W_{\mathrm{c}} $ 를 도입하고 지수적 순간 추정을 사용하여 커플링 시간과 꼬리 확률을 제어한다.

실험 결과

연구 질문

• RQ1 일정한 단계 크기 하에서 ULA 의 비점근 수렴 경계가 차원 $ d $ 에 따라 어떻게 척도화되는가?
• RQ2 정적 분포 $ \pi_\gamma $ 와 $ \pi $ 간의 총변화 거리가 단계 크기 $ \gamma $ 와 잠재력의 매끄러움에 어떻게 명시적으로 의존하는가?
• RQ3 감소하는 단계 크기를 갖는 ULA 는 목표 $ \pi $ 로 총변화 거리에서 수렴할 수 있는가? 그리고 그 명시적 경계는 무엇인가?
• RQ4 기존 연구와 비교하여 수렴 속도는 어떻게 되는가? 특히 고차원 설정에서 어떻게 되는가?

주요 결과

• 일정한 단계 크기의 경우, 논문은 $ \gamma $, $ d $, 잠재력의 곡률에 대해 명시적으로 의존하는 $ \pi_\gamma $ 와 $ \pi $ 간의 비점근적 $ V $-총변화 거리 경계를 확립한다.
• 일정한 단계 크기의 ULA 는 $ V $-균일 정규성 하에서 기하적 수렴 속도를 보이며, $ U $ 가 강력 볼록할 경우 고차원에서 유리하게 척도가 조절된다.
• 감소하는 단계 크기의 경우, 논문은 ULA 체인의 여유분 분포가 총변화 거리에서 $ \pi $ 로 수렴함을 증명하며, 이전 결과보다 향상된 명시적 비점근 경계를 제공한다.
• 분석은 [12] 및 [13] 과 비교해 더 날카운 차원 의존 경계를 도출하며, 특히 헤시안과 기울기 성장이 제어되는 비로그컨카브 잠재력에 대해 유리하다.
• 논문은 수렴 경계에 명시적인 상수를 제공하며, 목표 측도의 푸앵카레 및 로그소볼레브 상수에 대한 의존성을 포함한다.
• 연속 시간 랭게빈 확산에서 총변화 거리가 시간에 따라 지수적으로 감소함을 증명하고, 이를 커플링 및 생성자 기반 추론을 통해 이산 ULA 로 이전한다.