[论文解读] Minimax Mixing Time of the Metropolis-Adjusted Langevin Algorithm for Log-Concave Sampling

Keru Wu, Scott C. Schmidler+1 more|arXiv (Cornell University)|Sep 27, 2021

Markov Chains and Monte Carlo Methods参考文献 50被引用 18

一句话总结

本文建立了马尔可夫链蒙特卡洛方法中Metropolis调整的朗之万算法（MALA）在对数光滑且强对数凹分布进行采样时的最小最大混合时间。通过分析蛙跳积分器的收敛性并推导接受率的新浓度不等式，证明了MALA在温暖初始条件下以$\tilde{O}(\kappa\sqrt{d})$次迭代完成混合，与匹配的下界一致，从而解决了该设定下MALA的最优复杂度问题。

ABSTRACT

We study the mixing time of the Metropolis-adjusted Langevin algorithm (MALA) for sampling from a log-smooth and strongly log-concave distribution. We establish its optimal minimax mixing time under a warm start. Our main contribution is two-fold. First, for a $d$-dimensional log-concave density with condition number $κ$, we show that MALA with a warm start mixes in $ ilde O(κ\sqrt{d})$ iterations up to logarithmic factors. This improves upon the previous work on the dependency of either the condition number $κ$ or the dimension $d$. Our proof relies on comparing the leapfrog integrator with the continuous Hamiltonian dynamics, where we establish a new concentration bound for the acceptance rate. Second, we prove a spectral gap based mixing time lower bound for reversible MCMC algorithms on general state spaces. We apply this lower bound result to construct a hard distribution for which MALA requires at least $ ilde Ω(κ\sqrt{d})$ steps to mix. The lower bound for MALA matches our upper bound in terms of condition number and dimension. Finally, numerical experiments are included to validate our theoretical results.

研究动机与目标

• 确定马尔可夫链蒙特卡洛方法中Metropolis调整的朗之万算法（MALA）在对数光滑且强对数凹分布下采样的最优混合时间。
• 通过在条件数$\kappa$和维度$d$方面建立紧致的上下界，填补关于MALA收敛速率理论理解的空白。
• 通过将蛙跳积分器与连续哈密顿动力学进行比较，为MALA中的接受率推导出新的浓度不等式。
• 为一般状态空间上可逆MCMC算法建立基于谱间隙的混合时间下界，并将其应用于MALA。
• 通过在高维对数凹目标上的数值实验验证理论发现。

提出的方法

• 将MALA视为连续朗之万动力学的欧拉离散化，并通过Metropolis-Hastings校正确保平稳性。
• 通过将蛙跳积分器与连续哈密顿动力学进行比较，推导出接受率的新浓度不等式。
• 在温暖初始条件下，为MALA推导出混合时间的上界$\tilde{O}(\kappa\sqrt{d})$，优于以往对$\kappa$或$d$的依赖关系。
• 证明了适用于一般状态空间上可逆MCMC算法的一般基于谱间隙的下界，并用于构造一个困难分布。
• 利用伯恩斯坦不等式和矩界来控制高维设置下梯度和内积的行为。
• 通过构造一个包含正弦分量的精心设计的困难分布$f_P(x)$，使其实现与上界匹配，从而证明$\tilde{O}(\kappa\sqrt{d})$速率的紧致性。

实验结果

研究问题

• RQ1 MALA在对数光滑且强对数凹分布下采样的最优混合时间是什么？
• RQ2 MALA混合时间对条件数$\kappa$和维度$d$的依赖关系是否可收紧至$\tilde{O}(\kappa\sqrt{d})$？
• RQ3 是否存在一种分布使得MALA至少需要$\tilde{\Omega}(\kappa\sqrt{d})$步才能完成混合，从而确立最小最大最优性？
• RQ4 能否为一般状态空间上可逆MCMC算法推导出基于谱间隙的一般下界？
• RQ5 理论边界与高维采样任务中的实际性能相比如何？

主要发现

• 对于条件数为$\kappa$的$d$维对数凹分布，MALA在温暖初始条件下以$\tilde{O}(\kappa\sqrt{d})$次迭代完成混合，优于以往的边界。
• 上界是紧致的，因为通过困难分布构造证明了匹配的下界$\tilde{\Omega}(\kappa\sqrt{d})$。
• 通过将蛙跳积分器与连续哈密顿动力学进行比较，推导出接受率的新浓度不等式，从而实现了更紧密的混合时间控制。
• 为一般状态空间上可逆MCMC算法建立了基于谱间隙的混合时间下界，并将其应用于MALA。
• 通过在高维对数凹目标上的数值实验验证了理论边界，结果与预测的缩放规律一致。
• 该分析解决了对数凹设定下MALA的最小最大复杂度问题，表明$\tilde{O}(\kappa\sqrt{d})$是最佳速率。