[论文解读] The Randomized Midpoint Method for Log-Concave Sampling

Ruoqi Shen, Yin Tat Lee|arXiv (Cornell University)|Sep 12, 2019

Markov Chains and Monte Carlo Methods被引用 25

一句话总结

本文提出了一种基于非阻尼朗之万扩散的新型马尔可夫链蒙特卡洛算法，用于从高维对数凹分布中抽样。该算法在 $ ilde{O}( au^{7/6}/ au^{1/3} + au/ au^{2/3})$ 步内实现 $ au \cdot D$ 的 Wasserstein 误差，显著优于先前方法的 $ ilde{O}( au^{1.5}/ au)$ 复杂度，并且仅需 $O( au \log \frac{1}{ au})$ 次并行步骤即可实现高效并行化。

ABSTRACT

Sampling from log-concave distributions is a well researched problem that has many applications in statistics and machine learning. We study the distributions of the form $p^{*}\propto\exp(-f(x))$, where $f:\mathbb{R}^{d} ightarrow\mathbb{R}$ has an $L$-Lipschitz gradient and is $m$-strongly convex. In our paper, we propose a Markov chain Monte Carlo (MCMC) algorithm based on the underdamped Langevin diffusion (ULD). It can achieve $ε\cdot D$ error (in 2-Wasserstein distance) in $ ilde{O}\left(κ^{7/6}/ε^{1/3}+κ/ε^{2/3} ight)$ steps, where $D\overset{\mathrm{def}}{=}\sqrt{\frac{d}{m}}$ is the effective diameter of the problem and $κ\overset{\mathrm{def}}{=}\frac{L}{m}$ is the condition number. Our algorithm performs significantly faster than the previously best known algorithm for solving this problem, which requires $ ilde{O}\left(κ^{1.5}/ε ight)$ steps. Moreover, our algorithm can be easily parallelized to require only $O(κ\log\frac{1}ε)$ parallel steps. To solve the sampling problem, we propose a new framework to discretize stochastic differential equations. We apply this framework to discretize and simulate ULD, which converges to the target distribution $p^{*}$. The framework can be used to solve not only the log-concave sampling problem, but any problem that involves simulating (stochastic) differential equations.

研究动机与目标

• 开发一种针对高维对数凹分布的更快抽样算法，实现对条件数 $\tau$ 和误差容限 $\tau$ 的改进依赖关系。
• 克服先前最先进方法中 $ ilde{O}(\tau^{1.5}/\tau)$ 复杂度的瓶颈。
• 设计一种用于随机微分方程离散化的框架，以实现对非阻尼朗之万动力学的高效模拟。
• 在不依赖 Metropolis 调整或高阶光滑性假设的前提下，实现对 $\tau$ 的亚线性依赖。
• 实现抽样过程的高效并行化，将并行步骤数减少至 $O(\tau \log \frac{1}{\tau})$。

提出的方法

• 提出一种针对随机微分方程的新型离散化框架，特别适用于模拟非阻尼朗之万扩散（ULD）。
• 引入一种随机中点法来近似 SDE 的解，在 $L$-Lipschitz 梯度和 $m$-强凸性假设下确保稳定性和收敛性。
• 采用多步积分方案，每步包含 $R$ 个子步，每个子步应用随机中点近似以控制误差传播。
• 通过递归近似速度过程来控制 SDE 的漂移项和扩散项离散化中的误差。
• 利用 $\nabla f$ 的 $L$-Lipschitz 连续性与 $f$ 的强凸性推导误差界，确保收敛至目标分布 $p^* \propto \exp(-f(x))$。
• 利用有效直径 $D = \sqrt{d/m}$ 作为问题规模的尺度不变度量，实现尺度不变的收敛保证。

实验结果

研究问题

• RQ1 我们能否在对条件数 $\tau$ 和误差容限 $\tau$ 的依赖关系上，实现对对数凹分布更快的抽样收敛？
• RQ2 在标准光滑性假设下，能否设计一种无需 Metropolis 调整且对 $\tau$ 实现亚线性依赖的抽样算法？
• RQ3 能否开发一种 SDE 离散化框架，使 MCMC 抽样在保证高精度的同时实现高效并行化？
• RQ4 与现有 SDE 离散化方案相比，随机中点法在收敛速率和稳定性方面表现如何？
• RQ5 在对数凹抽样中，为实现 $\tau \cdot D$ 的 2-Wasserstein 距离误差，最少需要多少并行步骤？

主要发现

• 所提算法在 2-Wasserstein 距离下以 $ ilde{O}(\tau^{7/6}/\tau^{1/3} + \tau/\tau^{2/3})$ 步达到 $\tau \cdot D$ 的误差，优于先前最优的 $ ilde{O}(\tau^{1.5}/\tau)$。
• 该算法是首个在标准 $L$-Lipschitz 和 $m$-强凸性假设下，实现对 $\tau$ 亚线性依赖的非 Metropolis 调整方法。
• 该方法可并行化，仅需 $O(\tau \log \frac{1}{\tau})$ 次并行步骤，显著降低实际运行时间。
• 误差分析通过递归近似与 Lipschitz 连续性，建立了离散速度过程与连续过程之间偏差的紧界。
• 该框架具有通用性，适用于任何涉及（随机）微分方程模拟的问题，不仅限于对数凹抽样。
• 使用有效直径 $D = \sqrt{d/m}$ 作为尺度不变的误差度量，澄清并统一了先前的定义，使结果在 $f$ 的缩放与张量化下保持不变。