[论文解读] Log-concave sampling: Metropolis-Hastings algorithms are fast

Raaz Dwivedi, Yuansi Chen+2 more|arXiv (Cornell University)|Jan 8, 2018

Markov Chains and Monte Carlo Methods参考文献 53被引用 88

一句话总结

该论文给出在从强对数凸密度采样时，对 MALA 和 MRW 的非渐近混合时间界，表明 MALA 从热启动出发在 O(kappa d log(1/delta)) 步内混合，优于 ULA。

ABSTRACT

We consider the problem of sampling from a strongly log-concave density in $\mathbb{R}^d$, and prove a non-asymptotic upper bound on the mixing time of the Metropolis-adjusted Langevin algorithm (MALA). The method draws samples by simulating a Markov chain obtained from the discretization of an appropriate Langevin diffusion, combined with an accept-reject step. Relative to known guarantees for the unadjusted Langevin algorithm (ULA), our bounds show that the use of an accept-reject step in MALA leads to an exponentially improved dependence on the error-tolerance. Concretely, in order to obtain samples with TV error at most $δ$ for a density with condition number $κ$, we show that MALA requires $\mathcal{O} \big(κd \log(1/δ) \big)$ steps, as compared to the $\mathcal{O} \big(κ^2 d/δ^2 \big)$ steps established in past work on ULA. We also demonstrate the gains of MALA over ULA for weakly log-concave densities. Furthermore, we derive mixing time bounds for the Metropolized random walk (MRW) and obtain $\mathcal{O}(κ)$ mixing time slower than MALA. We provide numerical examples that support our theoretical findings, and demonstrate the benefits of Metropolis-Hastings adjustment for Langevin-type sampling algorithms.

研究动机与目标

• 动机与分析在 R^d 上使用基于 Langevin 的 MCMC 方法对强对数凸密度进行采样。
• 给出关于维度 d、条件数 kappa 和容忍度 delta 的 MALA 与 MRW 的显式非渐近混合时间界。
• 对比 Metropolis 调整方案与未调整的 Langevin 算法，以量化性能提升。
• 将分析扩展到可行启动和弱对数凸情形，以评估实际适用性。

提出的方法

• 研究 Metropolis-adjusted Langevin Algorithm (MALA) 和 Metropolized Random Walk (MRW) 用于从 pi(x) ∝ exp(-f(x)) 的采样，其中 f 是光滑且强凸。
• 推导全变距离下显式的 delta-混合时间界，表明在热启动下 MALA 达到 O(d kappa log(1/delta)) 步。
• 与未调整的 Langevin 算法 (ULA) 进行比较，并给出 MRW 的界为 O(d kappa^2 log(1/delta)) 步，突出 MH 校正带来的收益。
• 引入热启动和可行启动分析，包括 beta-warm 启动和 N(x*, L^{-1} I_d) 初始化。
• 在相关情况下，给出界中对问题参数如 d、kappa、L、m 及步长等的依赖性。

实验结果

研究问题

• RQ1 强对数凸密度下，MALA 与 MRW 的显式非渐近混合时间界是什么？
• RQ2 相对于未调整的 Langevin 算法（ULA），在维度、条件数和容忍度方面，Metropolis-Hastings 校正如何影响收敛速度？
• RQ3 热启动与可行启动初始化是否能为 MALA 和 MRW 提供实际的多项式时间混合保证？
• RQ4 在弱对数凸密度或仅部分梯度信息可用时，是否存在类似的改进？
• RQ5 在强对数凸和弱对数凸情形下，ULA、MRW 和 MALA 的缩放定律有何差异？

主要发现

• MALA 混合在 O(d κ log(1/δ)) 步从一个 β-warm 启动出发，较 ULA 的 O(d κ^2 log^2(1/δ)/δ^2) 有指数级改进。
• MRW 从 β-warm 启动混合在 O(d κ^2 log(1/δ)) 步，较 MALA 慢一个 O(κ) 的因子，但在 δ 上仍然指数级优于 ULA。
• 从可行启动 μ★ = N(x*, L^{-1} I_d) 出发，MALA 达到 O(d^2 κ log(κ/δ)) 步，MRW 达到 O(d^2 κ^2 log^{1.5}(κ/δ)) 步，确立了实际初始化的好处。
• 对于弱对数凸密度，改进的 MALA 相对于 ULA 展现出有利的缩放，δ-混合时间大致为 d^2 L^{1.5} / δ^{1.5}（在对数因子下）。
• 本文提供数值实验，以支持理论收益并展示 Metropolis-Hastings 调整对 Langevin 型采样器的优点。