[논문 리뷰] Bounding the error of discretized Langevin algorithms for non-strongly log-concave targets

Arnak S. Dalalyan, Avetik Karagulyan외 1명|arXiv (Cornell University)|2019. 06. 20.

Markov Chains and Monte Carlo Methods참고 문헌 47인용 수 16

한 줄 요약

이 논문은 $ \mathbb{R}^p$ 에서 비강한 로그볼록(non-strongly log-concave)이고 미분 가능(smooth)인 타겟 분포에서 샘플링하기 위한 이산화 랭그비안 알고리즘(LMC, KLMC, KLMC2)의 워샤르슈타인-$q$ 오차에 대한 비점근적 상한을 제공한다. 리프시츠 연속 기울기와 헤시안 조건 하에서, 오차에 대한 차원 적응형 스케일링을 사용할 경우 계산 복잡도가 차원에 대해 다항식적으로 증가함을 보이며, 이는 비강한 로그볼록 타겟에 대해 유계 도메인에서의 체계적 분석 결과로 처음으로 제시된다.

ABSTRACT

In this paper, we provide non-asymptotic upper bounds on the error of sampling from a target density using three schemes of discretized Langevin diffusions. The first scheme is the Langevin Monte Carlo (LMC) algorithm, the Euler discretization of the Langevin diffusion. The second and the third schemes are, respectively, the kinetic Langevin Monte Carlo (KLMC) for differentiable potentials and the kinetic Langevin Monte Carlo for twice-differentiable potentials (KLMC2). The main focus is on the target densities that are smooth and log-concave on $\mathbb R^p$, but not necessarily strongly log-concave. Bounds on the computational complexity are obtained under two types of smoothness assumption: the potential has a Lipschitz-continuous gradient and the potential has a Lipschitz-continuous Hessian matrix. The error of sampling is measured by Wasserstein-$q$ distances. We advocate for the use of a new dimension-adapted scaling in the definition of the computational complexity, when Wasserstein-$q$ distances are considered. The obtained results show that the number of iterations to achieve a scaled-error smaller than a prescribed value depends only polynomially in the dimension.

연구 동기 및 목표

• 비강한 로그볼록이고 미분 가능한 타겟에 대해 유계 도메인에서 샘플링 오차 이론적 이해의 격차를 메우기 위해.
• LMC, KLMC, KLMC2 세 가지 이산화 랭그비안 방법에 대해 워샤르슈타인-$q$ 거리에 대한 비점근적 상한을 제공하기 위해.
• 리프시츠 기울기 및 헤시안 조건 하에서 계산 복잡도 상한을 수립하기 위해.
• 워샤르슈타인-$q$ 오차를 사용할 경우 차원에 적응하는 스케일링을 복잡도 측정에 도입할 것을 제안하기 위해.
• 오차 분석을 뒷받기기 위해 로그볼록 분포에 대한 모멘트 상한을 유도하기 위해.

제안 방법

• 적응형 스텝 사이즈를 사용한 랭그비안 확산의 오일러 이산화를 통한 랭그비안 몬테카를로(LMC) 알고리즘을 사용한다.
• 운동량을 활용해 수렴성을 향상시킨 두 가지 운동형 변형인 KLMC(연속 가능한 잠재력) 및 KLMC2(이중 연속 가능한 잠재력)를 분석한다.
• 오차 측정으로 워샤르슈타인-$q$ 거리를 사용하며, 차원에 독립적인 복잡도 상한을 확보하기 위해 새로운 차원 적응형 스케일링을 도입한다.
• 로그-소볼레프 및 파인카레 부등식을 활용해 농도 불등식과 尾부 추정을 통해 타겟 분포의 모멘트 상한을 도출한다.
• 상부 비완전 감마 함수와 尾부 추정을 사용해 타겟 측도 하에서 랜덤 벡터의 노름의 모멘트를 제어한다.
• 대칭화 기법과 레드우의 결과(Ledoux, 2001)를 활용해 타겟 분포의 $ \ell_2$ 노름의 꼬리 확률을 상한한다.

실험 결과

연구 질문

• RQ1 리프시츠 연속 기울기를 가진 비강한 로그볼록 타겟에서 LMC 알고리즘의 비점근적 오차 상한은 무엇인가?
• RQ2 리프시츠 헤시안 조건 하에서 KLMC 및 KLMC2의 계산 복잡도는 차원에 따라 어떻게 변화하는가?
• RQ3 비강한 로그볼록 타겟에 대해 워샤르슈타인-$q$ 오차는 차원에 대해 다항식적으로만 의존하는 복잡도로 상한을 가질 수 있는가?
• RQ4 이러한 방법에 대해 샘플링 오차 상한을 최소화하는 최적의 스텝 사이즈 선택은 무엇인가?
• RQ5 로그볼록성과 미분 가능성 조건 하에서 타겟 분포의 $ \ell_2$ 노름에 대한 모멘트 상한은 어떻게 도출할 수 있는가?

주요 결과

• 최적의 스텝 사이즈를 사용한 LMC 알고리즘에서, 평균화된 반복값과 타겟 분포 사이의 쿨백-라이블러 발산은 $\sqrt{2\kappa p^{1+\beta}/K}$ 이하로 상한이 된다. 이때 $M\mu_2^2 \leq \kappa p^\beta$ 라고 가정한다.
• 리프시츠 기울기 조건 하에서, 차원 적응형 스케일링을 사용할 경우 LMC의 워샤르슈타인-$q$ 오차는 차원에 대해 다항식적으로 증가하는 계산 복잡도를 가진다.
• KLMC 및 KLMC2에 대해 리프시츠 헤시안 조건 하에서 워샤르슈타인-$q$ 오차에 대한 비점근적 상한을 유도하였으며, 이는 차원에 대해 다항식적 의존성을 보인다.
• 모멘트 $\mathbf{E}[\|\boldsymbol{\vartheta}\|_2^k]$ 는 상수 배수의 $\mu_2^k$ 이하로 상한이 되며, 감마 함수와 尾부 추정을 통해 명시적인 상수를 도출한다.
• 모멘트 비율 상수에 대한 수치적 상한은 $A_3 \leq 40.40$ 및 $A_4 \leq 441.43$ 로 도출되었으며, 일부 영역에서 기존 문헌의 상한보다 향상된 결과를 얻었다.
• 분석 결과, 미세한 부드러움과 모멘트 조건 하에서 비강한 로그볼록 타겟에 대해서도 오차가 차원에 대해 다항식적으로만 의존함을 보였다.