[논문 리뷰] Sampling from a strongly log-concave distribution with the Unadjusted Langevin Algorithm

Alain Durmus, Éric Moulines|arXiv (Cornell University)|2016. 04. 19.

Markov Chains and Monte Carlo Methods인용 수 20

한 줄 요약

이 논문은 고차원에서 강한 로그볼록 분포에서 샘플링하기 위한 비조정 랭지비안 알고리즘(Ula)을 분석한다. 잠재함수 $U$에 대해 강한 볼록성과 리프시츠 기울기 조건이 만족될 경우, 일정 및 감소하는 스텝 사이즈에 대해 워샤르슈타인 거리에서 비점근 수렴 경계를 확립하며, 차원에 의존하지 않는 성능을 보이며, 경험적 측도에 대한 오차 경계를 제공한다.

ABSTRACT

We consider in this paper the problem of sampling a probability distribution π having a density w.r.t. the Lebesgue measure on $\mathbb{R}^d$, known up to a normalisation factor $x \mapsto \mathrm{e}^{−U (x)} / \int_{\mathbb{R}^d} \mathrm{e}^{−U (y)}\mathrm{d}y$. Under the assumption that $U$ is continuously differentiable, $ abla U$ is globally Lipshitz and $U$ is strongly convex, we obtain non-asymptotic bounds for the convergence to stationarity in Wasserstein distances of the sampling method based on the Euler discretization of the Langevin stochastic differential equation for both constant and decreasing step sizes. The dependence on the dimension of the state space of the obtained bounds is studied to demonstrate the applicability of this method in the high dimensional setting. The convergence of an appropriately weighted empirical measure is also investigated and bounds for the mean square error and exponential deviation inequality for Lipschitz functions are reported. Some numerical results are presented to illustrate our findings.

연구 동기 및 목표

• 강한 로그볼록 분포에서 샘플링을 위한 비조정 랭지비안 알고리즘(Ula)의 수렴 분석.
• 강한 볼록성과 리프시츠 기울기 가정 하에서 워샤르슈타인 거리에서 정상 상태 수렴에 대한 비점근 경계 확립.
• 상태 공간의 차원에 따른 수렴 속도의 의존성 연구로 고차원 설정에서의 적용 가능성을 확보.
• 가중 경험 측도의 수렴을 연구하고 리프시츠 함수에 대한 평균 제곱 오차 및 지수 꼬리 확률 부등식에 대한 경계 유도.

제안 방법

• 방법은 잠재함수 $U$에 의해 구동되는 랭지비안 확률미분방정식의 오일러 이산화를 활용한다.
• U가 연속적으로 미분 가능하고, $\nabla U$가 전역적으로 리프시츠이며, U가 강한 볼록성을 만족한다고 가정한다.
• 수렴 분석은 워샤르슈타인 거리 기반으로 수행되며, 일정 및 감소하는 스텝 사이즈에 대해 경계가 유도된다.
• 확장성 평가를 위해 차원에 의존하는 및 차원에 의존하지 않는 속도 특성화가 포함된다.
• 적절한 가중치를 갖는 경험 측도가 구성되며, 평균 제곱 오차 및 지수 꼬리 확률 부등식을 통한 수렴 분석이 수행된다.
• 이론적 경계는 수치 실험을 통해 보완되어 이론적 결과의 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 강한 로그볼록성 하에서 워샤르슈타인 거리에서 비조정 랭지비안 알고리즘의 비점근 수렴 속도는 어떻게 확립할 수 있는가?
• RQ2 고차원 샘플링에서 상태 공간의 차원에 따라 수렴 속도는 어떻게 달라지는가?
• RQ3 ULA 샘플에서 유도된 경험 측도의 평균 제곱 오차에 대해 어떤 오차 경계를 도출할 수 있는가?
• RQ4 리프시츠 함수에 대해 ULA 샘플링 체계 하에서 지수 꼬리 확률 부등식을 유도할 수 있는가?
• RQ5 일정 스텝 사이즈와 감소 스텝 사이즈는 알고리즘의 수렴 행동에 어떻게 영향을 미치는가?

주요 결과

• 강한 볼록성과 리프시츠 기울기 조건 하에서 일정 및 감소 스텝 사이즈에 대해 워샤르슈타인 거리에서 비점근 수렴 경계가 확립된다.
• 수렴 속도는 차원에 의존하지 않으며, 이는 ULA가 고차원 설정에서 확장 가능함을 보여준다.
• ULA 샘플에서 유도된 경험 측도는 로그 인자까지 최적화된 평균 제곱 오차 경계를 갖는다.
• 리프시츠 함수에 대해 지수 꼬리 확률 부등식이 도출되어 경험 평균의 농도를 정량화한다.
• 수치 결과는 이론적 수렴 속도를 확인하며 알고리즘의 실용적 효과성을 검증한다.