[论文解读] High-dimensional MCMC with a standard splitting scheme for the underdamped Langevin diffusion

Pierre Monmarché|arXiv (Cornell University)|Jul 10, 2020

Markov Chains and Monte Carlo Methods参考文献 37被引用 25

一句话总结

该论文提出了一种基于标准二阶分裂格式（OBABO）的高维马尔可夫链蒙特卡洛（MCMC）采样器，用于欠阻尼朗之万扩散过程，证明了无维数依赖的 Wasserstein 收敛性以及无渐近收敛速率，适用于未调整链和 Metropolis 调整链。在不同光滑性假设下，其效率界分别为 $\sqrt{d}/\varepsilon$、$\sqrt{d/\varepsilon}$ 和 $d^{1/4}/\sqrt{\varepsilon}$，与 HMC 和动力学朗之万方案的已知结果一致。

ABSTRACT

The efficiency of a Markov sampler based on the underdamped Langevin diffusion is studied for high dimensional targets with convex and smooth potentials. We consider a classical second-order integrator which requires only one gradient computation per iteration. Contrary to previous works on similar samplers, a dimension-free contraction of Wasserstein distances and convergence rate for the total variance distance are proven for the discrete time chain itself. Non-asymptotic Wasserstein and total variation efficiency bounds and concentration inequalities are obtained for both the Metropolis adjusted and unadjusted chains. \ v{In particular, for the unadjusted chain,} in terms of the dimension $d$ and the desired accuracy $\\varepsilon$, the Wasserstein efficiency bounds are of order $\\sqrt d / \\varepsilon$ in the general case, $\\sqrt{d/\\varepsilon}$ if the Hessian of the potential is Lipschitz, and $d^{1/4}/\\sqrt\\varepsilon$ in the case of a separable target, in accordance with known results for other kinetic Langevin or HMC schemes.

研究动机与目标

• 开发一种基于标准二阶分裂格式的高维 MCMC 采样器，用于欠阻尼朗之万扩散过程。
• 在高维情形下，建立未调整链和 Metropolis 调整链的非渐近收敛速率与效率界。
• 证明离散时间马尔可夫链本身的无维数依赖 Wasserstein 距离收缩性以及总变差收敛性，而非依赖于连续时间分析。
• 为采样误差提供关于维度 $d$ 和精度 $\varepsilon$ 的浓度不等式与显式界。
• 通过直接在离散时间中分析广泛使用的 MD 风格积分器，弥合高维 MCMC 中的理论空白。

提出的方法

• 使用 OBABO 分裂格式——一种用于欠阻尼朗之万 SDE 的标准二阶时间积分器——每步仅需一次梯度计算。
• 直接分析离散时间马尔可夫链，证明 Wasserstein 收缩性与总变差收敛性，无需依赖连续时间收敛速率。
• 采用李雅普诺夫函数方法，结合修正的能量函数 $\varphi_\star$，以控制矩和收缩行为。
• 利用 $\mathcal{W}_1$ 距离的对偶表示，以界定向量测度 $\pi$ 与链的平稳测度 $\pi_\delta$ 之间的偏差。
• 通过引理 28 和命题 34 控制矩估计与接受概率界，以控制经验平均的偏差与方差。
• 通过正交变换后的坐标独立性，对可分离目标进行分析，实现逐维分析。

实验结果

研究问题

• RQ1 标准二阶分裂格式（OBABO）用于欠阻尼朗之万扩散过程，是否可在高维采样中实现无维数依赖的收敛性？
• RQ2 在维度 $d$ 和精度 $\varepsilon$ 的表达下，未调整链与 Metropolis 调整链的非渐近效率界是什么？
• RQ3 是否可证明离散时间马尔可夫链本身在 Wasserstein 距离下收缩，而无需依赖连续时间分析？
• RQ4 OBABO 方案的计算成本与其它动力学 MCMC 方法相比如何，特别是在梯度计算次数与收敛速率方面？
• RQ5 未调整链在平衡状态下的偏差是多少，其随 $d$ 和 $\varepsilon$ 的变化规律如何？

主要发现

• 在 $m$-凸性与 $L$-光滑性假设下，离散时间 OBABO 链在 Wasserstein 距离下表现出无维数依赖的收缩性。
• 非渐近 Wasserstein 效率界在一般情况下为 $\sqrt{d}/\varepsilon$，当 $U$ 的 Hessian 为 Lipschitz 时为 $\sqrt{d/\varepsilon}$，对可分离目标则为 $d^{1/4}/\sqrt{\varepsilon}$。
• 总变差距离的收敛速率与维度无关，其显式界由收缩性与矩估计导出。
• 通过 Wasserstein 收缩性直接建立了经验平均的浓度不等式，从而实现非渐近置信区间。
• 通过 $\mathcal{W}_1$ 的对偶表示，将真实目标 $\pi$ 与链的平稳测度 $\pi_\delta$ 之间的偏差进行有界控制，实现显式误差控制。
• 尽管每步仅使用一次梯度且避免 Hessian 计算，该方法的性能仍可与 HMC 及其他动力学朗之万方案相媲美。