[论文解读] Exponential ergodicity of mirror-Langevin diffusions

Sinho Chewi, Thibaut Le Gouic+4 more|arXiv (Cornell University)|May 19, 2020

Markov Chains and Monte Carlo Methods参考文献 63被引用 15

一句话总结

本文提出镜像-Langevin扩散（MLD）作为从病态对数凹分布中采样的框架，重点关注实现与维度无关、与分布无关的指数遍历性的牛顿-Langevin扩散（NLD）。通过跟踪卡方散度而非KL散度，作者建立了镜像Poincaré不等式作为快速收敛的充分条件，从而在Hessian矩阵退化时仍能获得鲁棒的采样算法。

ABSTRACT

Motivated by the problem of sampling from ill-conditioned log-concave distributions, we give a clean non-asymptotic convergence analysis of mirror-Langevin diffusions as introduced in Zhang et al. (2020). As a special case of this framework, we propose a class of diffusions called Newton-Langevin diffusions and prove that they converge to stationarity exponentially fast with a rate which not only is dimension-free, but also has no dependence on the target distribution. We give an application of this result to the problem of sampling from the uniform distribution on a convex body using a strategy inspired by interior-point methods. Our general approach follows the recent trend of linking sampling and optimization and highlights the role of the chi-squared divergence. In particular, it yields new results on the convergence of the vanilla Langevin diffusion in Wasserstein distance.

研究动机与目标

• 解决在病态、高维对数凹分布中MCMC混合缓慢的挑战。
• 为镜像-Langevin扩散（MLD）这一Langevin动力学的推广形式，提供非渐近收敛分析。
• 建立与维度和目标分布无关的指数遍历性，尤其针对牛顿-Langevin扩散（NLD）。
• 通过Wasserstein梯度流与镜像下降，建立采样与优化之间的联系，强调卡方散度的作用。
• 在高度病态的设定下，为原始Langevin算法和未调整Langevin算法提供稳定且可扩展的替代方案。

提出的方法

• 引入镜像-Langevin扩散（MLD）作为随机过程，通过镜像映射改变空间几何，以在Wasserstein空间上最小化KL散度。
• 使用卡方散度作为收敛跟踪的代理目标，导出镜像Poincaré不等式作为指数遍历性的充分条件。
• 将该框架应用于镜像映射等于势函数$V$的特殊情况，得到牛顿-Langevin扩散（NLD），其对应于牛顿法的采样类比。
• 证明NLD以与目标分布$\pi$和维度$d$无关的速率指数收敛，利用Brascamp-Lieb不等式。
• 推导出MLD的一种离散化形式，称为镜像-Langevin算法（MLA），在数值实验中保持稳定且收敛速度优于ULA。
• 在实验中采用定制的镜像映射$\phi(x) = \|x\|^{3/2}$，以确保稳定性，同时在病态设定下保持快速收敛。

实验结果

研究问题

• RQ1 镜像-Langevin扩散能否实现与维度和目标分布无关的指数遍历性？
• RQ2 为何跟踪卡方散度而非KL散度能改善采样算法的收敛性分析？
• RQ3 当势函数的Hessian矩阵退化时，牛顿-Langevin扩散（NLD）的收敛行为如何？
• RQ4 镜像-Langevin框架能否用于设计在高度病态设定下稳定且快速混合的采样算法？
• RQ5 镜像映射的选择如何影响离散化采样算法（如MLA）的稳定性和收敛性？

主要发现

• 牛顿-Langevin扩散（NLD）以与目标分布$\pi$和维度无关的速率指数收敛至平稳分布，如推论1所示。
• NLD的收敛速率具有尺度不变性，即使$\nabla^2 V$任意接近零，其速率仍保持$O(1)$，这在病态问题中具有关键优势。
• 在Brascamp-Lieb条件下成立的镜像Poincaré不等式，可确保卡方散度下的指数收敛，从而也意味着KL、Hellinger和总变差等其他散度的快速收敛。
• 数值实验表明，NLA在初始阶段收敛极快，但因在原点附近Hessian矩阵爆炸而变得不稳定，尤其当$\|x\|$较小时更为明显。
• 采用精心选择的镜像映射$\phi(x) = \|x\|^{3/2}$的镜像-Langevin算法（MLA）在收敛速度上优于ULA和TULA，同时保持稳定性，其混合时间呈$O(\beta^{-1/2})$量级。
• 理论上的ULA混合时间量级为$O(\beta^{-1})$，而MLA的为$O(\beta^{-1/2})$，这解释了实验中观察到的更快收敛现象。