[论文解读] Fast Langevin based algorithm for MCMC in high dimensions

Alain Durmus, Gareth O. Roberts+2 more|arXiv (Cornell University)|Jul 8, 2015

Markov Chains and Monte Carlo Methods参考文献 40被引用 11

一句话总结

本文提出 fMALA，一种快速的马尔可夫链蒙特卡洛（MCMC）算法，通过使用优化的高斯提议分布，在高维目标分布中显著提升了采样效率。该算法实现了 𝒪(d¹/⁵) 的最优收敛速率，远优于 MALA 的 𝒪(d¹/³)，并保持 0.704 的渐近接受率与几何遍历性，其理论结果通过扩散极限分析和在乘积型与非乘积型密度上的数值实验得到验证。

ABSTRACT

We introduce new Gaussian proposals to improve the efficiency of the standard Hastings-Metropolis algorithm in Markov chain Monte Carlo (MCMC) methods, used for the sampling from a target distribution in large dimension $d$. The improved complexity is $\mathcal{O}(d^{1/5})$ compared to the complexity $\mathcal{O}(d^{1/3})$ of the standard approach. We prove an asymptotic diffusion limit theorem and show that the relative efficiency of the algorithm can be characterised by its overall acceptance rate (with asymptotical value 0.704), independently of the target distribution. Numerical experiments confirm our theoretical findings.

研究动机与目标

• 为解决标准 MCMC 方法在高维空间中性能下降的问题，特别是 MALA 算法的 𝒪(d¹/³) 收敛速率。
• 开发一种基于梯度的 MCMC 算法，通过引入目标密度的高阶信息实现更快收敛，且不因离散化而引入偏差。
• 为新算法建立理论扩散极限，并通过渐近接受率与弱收敛性分析其效率。
• 通过在乘积型与非乘积型目标密度上的数值实验，验证其几何遍历性与更优的混合特性。

提出的方法

• 提出一种新型高斯提议机制，用于马尔可夫链蒙特卡洛算法，通过改进伊藤-马鲁亚马离散化方法对朗之万 SDE 的处理，以提升弱收敛阶与收敛行为。
• 引入一种改进的一步积分器，其步长缩放为 h = 1.79²d⁻¹/⁵，该参数由渐近扩散极限分析推导得出。
• 利用弱收敛理论推导 fMALA 过程的扩散极限，证明其收敛至具有不变测度 π 的扩散过程。
• 采用混合策略，结合 fMALA 与随机游走 Metropolis（RWM）提议，以稳定初始阶段的性能，提升早期迭代的鲁棒性。
• 通过一阶效率指标（按 d¹/⁵ 缩放）分析算法效率，并在不同维度下与 MALA 和 RWM 进行比较。
• 通过在乘积型密度与具有柯西创新的 AR(1) 模型上的数值实验，验证理论结果。

实验结果

研究问题

• RQ1 基于梯度的 MCMC 算法是否能在高维空间中实现优于 𝒪(d¹/³) 的收敛速率？
• RQ2 对改进的朗之万提议，最优步长 h 的缩放方式为何，才能保证几何遍历性与快速混合？
• RQ3 0.704 的渐近接受率是否能独立于目标分布，表征新算法的相对效率？
• RQ4 在非乘积型目标密度下，fMALA 与 MALA 相比，在瞬态与平稳阶段的表现如何？
• RQ5 结合 fMALA 与 RWM 的混合方案是否能提升早期迭代的收敛鲁棒性？

主要发现

• fMALA 算法实现了 𝒪(d¹/⁵) 的收敛速率，优于 MALA 的 𝒪(d¹/³) 与 RWM 的 𝒪(d⁻¹) 缩放。
• fMALA 的渐近接受率收敛至 0.704，该值独立于目标分布，表征其相对效率。
• 数值实验表明，在 d¹/⁵ 缩放下，fMALA 的一阶效率收敛至非零极限，而 MALA 的效率在相同缩放下趋于零。
• fMALA 的自相关衰减速度快于 MALA 与 RWM，表明其在平稳状态下具有更优的混合特性。
• 混合 fMALA 方案（结合 fMALA 与 RWM）在瞬态阶段表现稳健，其期望平方效率优于标准 MALA。
• 该算法每步计算成本保持 𝒪(d)，与 MALA 相当，即使在具有三对角雅可比矩阵的非乘积型密度下亦成立。