[论文解读] Sampling from a strongly log-concave distribution with the Unadjusted Langevin Algorithm

Alain Durmus, Éric Moulines|arXiv (Cornell University)|Apr 19, 2016

Markov Chains and Monte Carlo Methods被引用 20

一句话总结

本文研究了在高维空间中从强对数凹分布进行采样的未调整朗之万算法（ULA）。在势函数 $U$ 满足强凸性和利普希茨梯度条件的前提下，本文建立了常数步长和递减步长下的非渐近收敛界，以 Wasserstein 距离衡量，展示了维度无关的性能，并为经验测度提供了误差界。

ABSTRACT

We consider in this paper the problem of sampling a probability distribution π having a density w.r.t. the Lebesgue measure on $\mathbb{R}^d$, known up to a normalisation factor $x \mapsto \mathrm{e}^{−U (x)} / \int_{\mathbb{R}^d} \mathrm{e}^{−U (y)}\mathrm{d}y$. Under the assumption that $U$ is continuously differentiable, $ abla U$ is globally Lipshitz and $U$ is strongly convex, we obtain non-asymptotic bounds for the convergence to stationarity in Wasserstein distances of the sampling method based on the Euler discretization of the Langevin stochastic differential equation for both constant and decreasing step sizes. The dependence on the dimension of the state space of the obtained bounds is studied to demonstrate the applicability of this method in the high dimensional setting. The convergence of an appropriately weighted empirical measure is also investigated and bounds for the mean square error and exponential deviation inequality for Lipschitz functions are reported. Some numerical results are presented to illustrate our findings.

研究动机与目标

• 分析未调整朗之万算法（ULA）在强对数凹分布采样中的收敛性。
• 在强凸性和利普希茨梯度假设下，建立到平稳分布的非渐近收敛界，以 Wasserstein 距离衡量。
• 研究收敛速率对状态空间维度的依赖关系，确保在高维设置下的适用性。
• 研究加权经验测度的收敛性，并为利普希茨函数推导均方误差和指数偏差的界。

提出的方法

• 该方法采用由势函数 $U$ 驱动的朗之万随机微分方程的欧拉离散化。
• 假设 $U$ 连续可微，$\nabla U$ 全局利普希茨连续，且 $U$ 为强凸函数。
• 收敛性分析基于 Wasserstein 距离，分别推导了常数步长和递减步长的界。
• 分析包括维度相关和维度无关的速率表征，以评估在高维下的可扩展性。
• 构建具有适当权重的经验测度，并通过均方误差和指数偏差不等式分析其收敛性。
• 理论界通过数值实验加以补充，以验证理论结果。

实验结果

研究问题

• RQ1 在强对数凹性条件下，未调整朗之万算法在 Wasserstein 距离中的非渐近收敛速率可建立为何种形式？
• RQ2 在高维采样中，收敛速率如何依赖于状态空间的维度？
• RQ3 可为 ULA 样本构建的经验测度的均方误差推导出何种误差界？
• RQ4 能否为 ULA 采样方案下的利普希茨函数建立指数偏差不等式？
• RQ5 常数步长与递减步长如何影响算法的收敛行为？

主要发现

• 在强凸性和利普希茨梯度条件下，建立了常数步长和递减步长在 Wasserstein 距离下的非渐近收敛界。
• 收敛速率与维度无关，展示了 ULA 在高维设置下的可扩展性。
• 从 ULA 样本构建的经验测度在均方误差界方面达到最优，仅相差对数因子。
• 为利普希茨函数推导出指数偏差不等式，量化了经验平均的集中性。
• 数值结果验证了理论收敛速率，并证实了该算法的实际有效性。