[论文解读] Langevin Monte Carlo without smoothness

Niladri S. Chatterji, Jelena Diakonikolas+2 more|arXiv (Cornell University)|May 1, 2019

Markov Chains and Monte Carlo Methods被引用 2

一句话总结

本文提出了一种Langevin Monte Carlo (LMC)的变体，通过在迭代点中引入微小的高斯扰动，隐式平滑对数密度，从而实现了对非光滑对数凹分布的多项式时间收敛。关键贡献在于严格分析表明，该扰动引入的偏差和方差是可控的，使得在不需梯度-Lipschitz（光滑性）条件的情况下，也能获得非渐近收敛保证。

ABSTRACT

Langevin Monte Carlo (LMC) is an iterative algorithm used to generate samples from a distribution that is known only up to a normalizing constant. The nonasymptotic dependence of its mixing time on the dimension and target accuracy is understood mainly in the setting of smooth (gradient-Lipschitz) log-densities, a serious limitation for applications in machine learning. In this paper, we remove this limitation, providing polynomial-time convergence guarantees for a variant of LMC in the setting of nonsmooth log-concave distributions. At a high level, our results follow by leveraging the implicit smoothing of the log-density that comes from a small Gaussian perturbation that we add to the iterates of the algorithm and controlling the bias and variance that are induced by this perturbation.

研究动机与目标

• 解决现有LMC方法在缺乏梯度-Lipschitz对数密度假设时，无法获得非渐近收敛保证的局限性。
• 实现对非光滑对数凹分布的高效采样，这类分布常见于机器学习应用中。
• 在目标对数密度不满足光滑性假设的前提下，为LMC提供理论收敛保证。
• 分析向LMC迭代点中添加微小高斯扰动后引入的偏差与方差之间的权衡。

提出的方法

• 在LMC算法的迭代点中引入微小高斯扰动，以隐式平滑非光滑对数密度。
• 将由此产生的扰动过程视为一种正则化采样形式，其近似于真实目标分布。
• 利用对数凹分布的性质以及高斯噪声的平滑效应，控制扰动引入的偏差。
• 通过扰动结构控制随机梯度估计的方差，以确保收敛的稳定性。
• 运用集中与鞅论证，推导出在非光滑条件下非渐近混合时间的界。
• 在不依赖梯度-Lipschitz连续性的前提下，建立以维度和目标精度表示的收敛速率。

实验结果

研究问题

• RQ1 LMC是否能在不假设梯度-Lipschitz连续性的情况下，实现对非光滑对数凹分布的多项式时间收敛？
• RQ2 添加微小高斯扰动如何影响LMC采样过程中的偏差与方差？
• RQ3 在非光滑设定下，扰动大小与收敛速率之间的权衡关系如何？
• RQ4 该扰动带来的隐式平滑能否替代LMC收敛分析中的显式光滑性假设？
• RQ5 在非光滑对数凹情况下，扰动LMC的非渐近混合时间界是什么？

主要发现

• 所提出的LMC变体实现了对非光滑对数凹分布的多项式时间收敛，消除了对梯度-Lipschitz假设的需求。
• 高斯扰动通过隐式平滑机制，使算法即使在目标对数密度不光滑的情况下也能收敛。
• 扰动引入的偏差有界，并且随噪声水平降低而减小，从而确保与目标分布的一致性。
• 通过扰动结构控制了随机梯度的方差，从而支持稳定迭代更新。
• 即使对数密度不光滑，仍能以维度和目标精度为参数，建立非渐近收敛保证。
• 分析表明，扰动对偏差和方差的影响可被定量控制，从而导出可证明的收敛速率。