[论文解读] Analysis of Langevin Monte Carlo from Poincaré to Log-Sobolev

Sinho Chewi, Murat A. Erdogdu+3 more|arXiv (Cornell University)|Dec 23, 2021

Markov Chains and Monte Carlo Methods被引用 8

一句话总结

本文首次在Lataà–Oleszkiewicz（LO）和修正对数Sobolev不等式下，为离散时间Langevin Monte Carlo（LMC）算法提供了非渐近收敛保证，这些不等式介于Poincaré与对数Sobolev条件之间。在不假设凸性、耗散性或强对数凹性的情况下，仅基于Hölder连续梯度，建立了Rényi散度下的指数收敛。该研究将采样理论扩展至更广泛的非对数凹目标分布。

ABSTRACT

Classically, the continuous-time Langevin diffusion converges exponentially fast to its stationary distribution $π$ under the sole assumption that $π$ satisfies a Poincaré inequality. Using this fact to provide guarantees for the discrete-time Langevin Monte Carlo (LMC) algorithm, however, is considerably more challenging due to the need for working with chi-squared or Rényi divergences, and prior works have largely focused on strongly log-concave targets. In this work, we provide the first convergence guarantees for LMC assuming that $π$ satisfies either a Latała--Oleszkiewicz or modified log-Sobolev inequality, which interpolates between the Poincaré and log-Sobolev settings. Unlike prior works, our results allow for weak smoothness and do not require convexity or dissipativity conditions.

研究动机与目标

• 将LMC的非渐近采样保证扩展至强对数凹目标之外。
• 在LMC收敛性分析中消除对耗散性或凸性假设的需求。
• 在介于Poincaré与对数Sobolev之间的功能性不等式（包括LO与修正对数Sobolev）下建立收敛性。
• 通过连续时间扩散的卡方收敛性，分析LMC在Rényi散度下的表现。
• 通过s-Hölder连续梯度处理弱光滑性，避免Lipschitz假设。

提出的方法

• 在LO与修正对数Sobolev不等式下分析连续时间Langevin扩散，推导出Rényi散度下的指数遍历性。
• 通过尾部估计与指数矩控制，提出一种新颖的布朗运动增量上确界在L2s范数下的矩界。
• 应用Grönwall不等式，控制在s-Hölder连续梯度下SDE解的增长。
• 通过将Langevin过程的增量分解为漂移与扩散项，建立其矩界。
• 推导出在时间步长内最大位移的指数矩界，从而实现对Rényi散度的控制。
• 将功能性不等式假设与矩界结合，推导出离散时间LMC的非渐近收敛速率。

实验结果

研究问题

• RQ1 LMC是否可在弱于对数Sobolev的不等式（如Lataà–Oleszkiewicz）下保证收敛？
• RQ2 在不假设耗散性或凸性的情况下，LMC是否仍能实现非渐近收敛？
• RQ3 在LO或修正对数Sobolev不等式下，是否可建立Rényi散度下的指数收敛？
• RQ4 与Lipschitz假设相比，梯度的s-Hölder连续性如何影响收敛性分析？
• RQ5 该分析能否扩展至具有多项式增长势能的非对数凹目标？

主要发现

• 本文在参数α ∈ [1,2]的Lataà–Oleszkiewicz不等式下，建立了LMC在Rényi散度下的指数收敛，该不等式介于Poincaré与对数Sobolev之间。
• 收敛性在不依赖凸性、耗散性或梯度Lipschitz连续性的情况下实现，仅需梯度的s-Hölder连续性。
• 该分析为LMC输出与目标分布之间的Rényi散度提供了非渐近界。
• 关键技术贡献在于：在L2s范数下，对布朗运动增量上确界的指数矩建立了上界，从而控制了离散化误差。
• 该方法适用于具有多项式增长势能V(x) ≈ ||x||^α的目标分布，包括具有有界支撑的高斯混合分布等非对数凹分布。
• 结果可推广至修正对数Sobolev不等式，当LO常数依赖于维度时尤为有用。