[论文解读] Sampling from a log-concave distribution with compact support with proximal Langevin Monte Carlo

Nicolas Brosse, Alain Durmus+2 more|arXiv (Cornell University)|May 24, 2017

Markov Chains and Monte Carlo Methods参考文献 28被引用 20

一句话总结

本文提出了并分析了用于从凸体 K 内的对数凹分布中进行采样的 Moreau-Yosida 未调整 Langevin 算法（MYULA）。通过使用 K 的指示函数的 Moreau-Yosida 包络对目标分布进行正则化，该方法在总变差距离和 Wasserstein-1 距离下实现了显式的多项式时间复杂度界，为高维约束贝叶斯推断提供了理论保证。

ABSTRACT

This paper presents a detailed theoretical analysis of the Langevin Monte Carlo sampling algorithm recently introduced in Durmus et al. (Efficient Bayesian computation by proximal Markov chain Monte Carlo: when Langevin meets Moreau, 2016) when applied to log-concave probability distributions that are restricted to a convex body $\mathsf{K}$. This method relies on a regularisation procedure involving the Moreau-Yosida envelope of the indicator function associated with $\mathsf{K}$. Explicit convergence bounds in total variation norm and in Wasserstein distance of order $1$ are established. In particular, we show that the complexity of this algorithm given a first order oracle is polynomial in the dimension of the state space. Finally, some numerical experiments are presented to compare our method with competing MCMC approaches from the literature.

研究动机与目标

• 为具有紧支集的对数凹分布采样提供一种理论基础坚实的 MCMC 方法，尤其适用于约束贝叶斯推断。
• 分析高维空间中近端 Langevin 蒙特卡洛算法（MYULA）的收敛复杂度。
• 在算法迭代与目标分布之间建立总变差距离和 Wasserstein-1 距离的显式非渐近界。
• 证明该算法在仅使用一阶预言机访问的情况下，其复杂度在维度 d 上为多项式时间。

提出的方法

• 该方法使用 Moreau-Yosida 包络对凸体 K 的指示函数进行正则化，将非光滑的约束目标转化为光滑的、可计算的近似形式。
• 在正则化势能上应用未调整 Langevin 算法（ULA），该势能由光滑函数 f 和 K 的指示函数的 Moreau-Yosida 近似组合而成。
• 通过步长为 γ 的欧拉-马鲁亚马离散化过阻尼 Langevin SDE，构建一个离散时间马尔可夫链。
• 利用耦合技术及凸体 K 的几何性质（包括其直径 R 和内径 r）推导收敛界。
• 关键组成部分包括 Moreau-Yosida 参数 λ、函数 f 的利普希茨常数 L_f，以及 f 的强凸性参数 m。
• 理论分析利用了对数凹性、梯度利普希茨连续性，以及 K 及其 ε-邻域的体积增长估计。

实验结果

研究问题

• RQ1 近端 Langevin 蒙特卡洛方法能否在对数凹分布具有紧支集时实现多项式时间收敛？
• RQ2 算法输出与目标分布之间的总变差距离和 Wasserstein-1 距离的显式非渐近界是什么？
• RQ3 该算法的复杂度如何随状态空间维度 d 变化？
• RQ4 Moreau-Yosida 正则化在确保非光滑约束目标的收敛性与稳定性方面起到什么作用？
• RQ5 在何种条件下，该算法能保持几何遍历性与快速混合？

主要发现

• 在标准假设下，经过 O(d log d) 次迭代后，算法的总变差距离界为 O(1/poly(d)) 阶。
• 建立了 Wasserstein 距离（阶数 1）的显式收敛界，表明该距离随迭代次数 n 呈几何衰减。
• 该算法的复杂度在维度 d 上为多项式时间，具体而言，O(d log d) 次迭代足以在 Wasserstein-1 距离下达到 ε 精度。
• 收敛速率依赖于强凸性参数 m、利普希茨常数 L_f，以及凸体 K 的直径 R。
• Moreau-Yosida 正则化使得标准 ULA 理论可应用于约束目标的光滑、行为良好的近似形式。
• 数值实验验证了理论界，并表明在约束后验分布上，其性能与现有 MCMC 方法相比具有竞争力。