[论文解读] Complexity Bounds for MCMC via Diffusion Limits

Gareth O. Roberts, Jeffrey S. Rosenthal|arXiv (Cornell University)|Nov 3, 2014

Markov Chains and Monte Carlo Methods参考文献 27被引用 5

一句话总结

本文通过证明弱收敛到扩散过程意味着在Kantorovich-Rubinstein（KR）度量下收敛时间复杂度，建立了马尔可夫链蒙特卡洛（MCMC）中扩散极限结果与算法复杂度界限之间的正式联系。结果表明，在标准假设下，随机行走Metropolis算法在维度d增加时收敛于$O(d)$次迭代，而Metropolis调整的Langevin算法收敛于$O(d^{1/3})$次迭代。

ABSTRACT

We connect known results about diffusion limits of Markov chain Monte Carlo (MCMC) algorithms to the Computer Science notion of algorithm complexity. Our main result states that any diffusion limit of a Markov process implies a corresponding complexity bound (in an appropriate metric). We then combine this result with previously-known MCMC diffusion limit results to prove that under appropriate assumptions, the Random-Walk Metropolis (RWM) algorithm in $d$ dimensions takes $O(d)$ iterations to converge to stationarity, while the Metropolis-Adjusted Langevin Algorithm (MALA) takes $O(d^{1/3})$ iterations to converge to stationarity.

研究动机与目标

• 弥合MCMC扩散极限理论与计算机科学复杂度分析之间的差距。
• 证明扩散极限结果可推导出高维状态空间中具体的收敛时间复杂度界限。
• 利用Kantorovich-Rubinstein度量，为RWM和MALA等广泛使用的MCMC算法提供严格的复杂度界限。
• 解决尽管存在扩散极限结果，但MCMC文献中缺乏显式复杂度界限的问题。
• 建立一个将弱收敛结果转化为算法复杂度陈述的框架，使用KR距离度量。

提出的方法

• 使用Kantorovich-Rubinstein（KR）度量来衡量收敛到平稳分布的过程，该度量能够度量弱收敛，且适用于扩散极限。
• 应用缩放后的MCMC过程的弱收敛性，使其收敛到一个极限扩散过程，利用Roberts等人（1997）和Roberts与Rosenthal（1998）的已知结果。
• 证明若有限维过程$X^{(d)}_t$弱收敛到极限扩散$X^{(\frown)}_t$，则KR距离到平稳分布的收敛在时间上是一致的。
• 利用平稳分布下期望KR距离的非增性，确保对所有$t \geq T$都实现收敛。
• 通过将收敛在分布上的性质与测度的连续性及一致有界性结合，利用三角不等式推导出复杂度界限。
• 通过将主定理与RWM和MALA的现有扩散极限结果相结合，将其应用于具体算法。

实验结果

研究问题

• RQ1 MCMC中的扩散极限结果能否用于推导高维下的显式算法复杂度界限？
• RQ2 MCMC算法弱收敛到扩散过程是否意味着在KR度量下存在相应的收敛时间复杂度？
• RQ3 在$d$维空间中，随机行走Metropolis算法的渐近收敛时间复杂度是多少？
• RQ4 在$d$维空间中，Metropolis调整的Langevin算法的渐近收敛时间复杂度是多少？
• RQ5 KR距离度量能否作为一般状态空间MCMC复杂度分析中总变差距离的稳健替代方案？

主要发现

• 主要理论贡献是一个通用定理，表明任何马尔可夫过程的扩散极限都意味着在Kantorovich-Rubinstein度量下存在相应的复杂度界限。
• 对于随机行走Metropolis算法，本文建立了在高维下收敛到平稳分布的复杂度界限为$O(d)$次迭代。
• 在标准假设下，对于Metropolis调整的Langevin算法，本文证明了复杂度界限为$O(d^{1/3})$次迭代。
• 收敛性是通过对从平稳测度中抽取的初始分布取期望来建立的，利用了期望KR距离的非增性。
• 结果是通过将已知的扩散极限结果与基于弱收敛性和测度连续性的新收敛论证相结合而推导出的。
• 该框架使得能够将渐近扩散结果转化为有限样本的复杂度界限，从而使其可被计算机科学复杂度分析所应用。