[论文解读] Bounding the error of discretized Langevin algorithms for non-strongly log-concave targets

Arnak S. Dalalyan, Avetik Karagulyan+1 more|arXiv (Cornell University)|Jun 20, 2019

Markov Chains and Monte Carlo Methods参考文献 47被引用 16

一句话总结

本文为在 $\mathbb{R}^p$ 上对非强对数凹、光滑目标分布进行采样的离散化朗之万算法——LMC、KLMC 和 KLMC2——提供了 Wasserstein-$q$ 误差的非渐近上界。在梯度和 Hessian 矩阵满足利普希茨连续的假设下，研究证明了当采用与维度自适应的误差缩放方式时，计算复杂度在维度上呈多项式增长，这是首次针对无界域上此类目标的系统性分析。

ABSTRACT

In this paper, we provide non-asymptotic upper bounds on the error of sampling from a target density using three schemes of discretized Langevin diffusions. The first scheme is the Langevin Monte Carlo (LMC) algorithm, the Euler discretization of the Langevin diffusion. The second and the third schemes are, respectively, the kinetic Langevin Monte Carlo (KLMC) for differentiable potentials and the kinetic Langevin Monte Carlo for twice-differentiable potentials (KLMC2). The main focus is on the target densities that are smooth and log-concave on $\mathbb R^p$, but not necessarily strongly log-concave. Bounds on the computational complexity are obtained under two types of smoothness assumption: the potential has a Lipschitz-continuous gradient and the potential has a Lipschitz-continuous Hessian matrix. The error of sampling is measured by Wasserstein-$q$ distances. We advocate for the use of a new dimension-adapted scaling in the definition of the computational complexity, when Wasserstein-$q$ distances are considered. The obtained results show that the number of iterations to achieve a scaled-error smaller than a prescribed value depends only polynomially in the dimension.

研究动机与目标

• 填补在无界域上对非强对数凹、光滑目标进行采样时理论采样误差理解上的空白。
• 为三种离散化朗之万方案（LMC、KLMC 和 KLMC2）提供 Wasserstein-$q$ 距离的非渐近界。
• 在梯度和 Hessian 矩阵满足利普希茨连续条件下，建立计算复杂度的界。
• 倡导在使用 Wasserstein-$q$ 误差时，采用与维度自适应的复杂度度量缩放方式。
• 推导对对数凹分布的矩界，以支持误差分析。

提出的方法

• 通过自适应步长对朗之万扩散过程进行欧拉离散化，使用朗之万蒙特卡洛（LMC）算法。
• 分析两种动力学变体：KLMC（可微势函数）和 KLMC2（二阶可微势函数），利用动量实现更优的收敛性。
• 采用 Wasserstein-$q$ 距离作为误差度量，并引入一种新颖的与维度自适应的缩放方式，以确保复杂度界与维度无关。
• 利用集中不等式和对数索波列夫不等式与庞加莱不等式结合的尾部估计，推导目标分布的矩界。
• 应用不完全上伽马函数和尾部界，以控制目标测度下随机向量范数的矩。
• 通过对称化论证和 Ledoux（2001）的结果，对目标分布的 $\ell_2$-范数尾部进行界控。

实验结果

研究问题

• RQ1 当目标分布为非强对数凹且梯度连续利普希茨时，LMC 算法的非渐近误差界是什么？
• RQ2 在 Hessian 矩阵满足利普希茨连续的假设下，KLMC 和 KLMC2 的计算复杂度如何随维度变化？
• RQ3 对于非强对数凹目标，是否可以建立仅关于维度呈多项式依赖的 Wasserstein-$q$ 误差界？
• RQ4 在这些方案中，使采样误差上界最小化的最优步长选择是什么？
• RQ5 在对数凹性和光滑性假设下，如何推导目标分布 $\ell_2$-范数的矩界？

主要发现

• 对于采用最优步长的 LMC 算法，平均迭代与目标分布之间的 Kullback-Leibler 散度被界为 $\sqrt{2\kappa p^{1+\beta}/K}$，前提是 $M\mu_2^2 \leq \kappa p^\beta$。
• 在梯度满足利普希茨连续的条件下，通过采用与维度自适应的缩放方式，LMC 的 Wasserstein-$q$ 误差的计算复杂度在维度上呈多项式增长。
• 对于 KLMC 和 KLMC2，本文在 Hessian 矩阵满足利普希茨连续的假设下，推导出 Wasserstein-$q$ 误差的非渐近界，表明其在维度上具有多项式依赖性。
• 矩 $\mathbf{E}[\|\boldsymbol{\vartheta}\|_2^k]$ 被界为 $\mu_2^k$ 的常数倍，其中常数通过伽马函数和尾部估计显式导出。
• 数值上，矩比常数的界为 $A_3 \leq 40.40$ 和 $A_4 \leq 441.43$，在某些情形下优于已有文献中的结果。
• 分析表明，即使在非强对数凹目标下，只要满足适度的光滑性和矩条件，误差在维度上的依赖关系也仅为多项式形式。