[论文解读] Wasserstein Control of Mirror Langevin Monte Carlo

Kelvin Shuangjian Zhang, Gabriel Peyré+2 more|arXiv (Cornell University)|Feb 11, 2020

Markov Chains and Monte Carlo Methods参考文献 22被引用 12

一句话总结

本文提出了Hessian黎曼Langevin蒙特卡洛（HRLMC）算法，这是一种新颖的采样方法，通过在Hessian型黎曼流形上采用受镜像下降启发的离散化方法，提升对非光滑或非对数凹目标的收敛性。该文建立了首个关于Wasserstein误差的非渐近上界，表明在自共形性和各向异性条件下，误差会收缩至一个显式半径的Wasserstein球内。

ABSTRACT

Discretized Langevin diffusions are efficient Monte Carlo methods for sampling from high dimensional target densities that are log-Lipschitz-smooth and (strongly) log-concave. In particular, the Euclidean Langevin Monte Carlo sampling algorithm has received much attention lately, leading to a detailed understanding of its non-asymptotic convergence properties and of the role that smoothness and log-concavity play in the convergence rate. Distributions that do not possess these regularity properties can be addressed by considering a Riemannian Langevin diffusion with a metric capturing the local geometry of the log-density. However, the Monte Carlo algorithms derived from discretizations of such Riemannian Langevin diffusions are notoriously difficult to analyze. In this paper, we consider Langevin diffusions on a Hessian-type manifold and study a discretization that is closely related to the mirror-descent scheme. We establish for the first time a non-asymptotic upper-bound on the sampling error of the resulting Hessian Riemannian Langevin Monte Carlo algorithm. This bound is measured according to a Wasserstein distance induced by a Riemannian metric ground cost capturing the Hessian structure and closely related to a self-concordance-like condition. The upper-bound implies, for instance, that the iterates contract toward a Wasserstein ball around the target density whose radius is made explicit. Our theory recovers existing Euclidean results and can cope with a wide variety of Hessian metrics related to highly non-flat geometries.

研究动机与目标

• 解决欧几里得Langevin蒙特卡洛在高维、非光滑或非对数凹分布采样中的局限性。
• 基于Hessian型流形，开发一种理论基础坚实的Langevin蒙特卡洛的黎曼推广。
• 在由目标函数和熵函数的Hessian几何所反映的黎曼度量诱导的Wasserstein距离下，建立非渐近收敛保证。
• 统一并扩展现有结果，将欧几里得LMC作为特例恢复，并处理高度非平坦的几何结构。

提出的方法

• 提出一种离散HRLMC算法，该算法源自在Hessian流形上对黎曼SDE的镜像下降启发式离散化。
• 使用Legendre型凸势函数φ定义黎曼度量，通过其Hessian D²φ(x)实现几何感知采样。
• 采用由黎曼度量诱导的Wasserstein距离W₂,φ来度量采样误差，捕捉f和φ的内在几何结构。
• 应用Itô等距性和Minkowski积分不等式，对离散化误差中的漂移、扩散和残差项的期望平方范数进行上界估计。
• 依赖于若干假设，包括φ的自共形性、f的Hessian和梯度的有界性，以及控制相对各向异性的换位子界。
• 推导出一个收缩不等式：W₂,φ(μₖ₊₁, π) ≤ ρ W₂,φ(μₖ, π) + h p¹ᐟ² β₁ + h³ᐟ² p¹ᐟ² β₂，其中ρ < 1，确保收敛性。

实验结果

研究问题

• RQ1 能否在Hessian型流形上对非对数凹或非光滑目标的黎曼Langevin蒙特卡洛算法进行严格分析？
• RQ2 HRLMC算法在几何一致的Wasserstein距离下的非渐近收敛速率是多少？
• RQ3 对数密度f的Hessian与熵φ的Hessian之间的相互作用如何影响收敛行为？
• RQ4 HRLMC算法在何种意义下收缩至目标分布的邻域？
• RQ5 该理论能否作为特例恢复经典欧几里得LMC结果？

主要发现

• HRLMC算法在由自共形Legendre势函数φ的Hessian导出的黎曼度量诱导的Wasserstein距离W₂,φ中实现了非渐近收敛。
• 采样误差收缩至一个显式半径的Wasserstein球内，该半径由h p¹ᐟ² β₁和h³ᐟ² p¹ᐟ² β₂界定，其中β₁和β₂依赖于f和φ的光滑性与各向异性。
• 在适当的步长和曲率条件下，收缩因子ρ严格小于1，确保收敛性。
• 当φ(x) = ||x||²/2时，该理论可恢复经典欧几里得LMC，确认与现有结果的一致性。
• 分析表明，φ的自共形性以及D²φ与D²f之间换位子的有界性，对控制离散化误差和确保稳定性至关重要。
• 该界显式依赖于维度p、步长h以及几何参数R、M、m、κ，揭示了几何与光滑性如何共同影响收敛性。