[论文解读] Generalized and hybrid Metropolis-Hastings overdamped Langevin algorithms

Romain Poncet|arXiv (Cornell University)|Jan 19, 2017

Markov Chains and Monte Carlo Methods参考文献 14被引用 8

一句话总结

本文提出了广义与混合Metropolis-Hastings过阻尼Langevin算法（GMALA与GHMALA），通过利用非可逆动力学在MCMC采样中降低渐近方差。通过采用提升状态空间与哈密顿积分器，该方法在低维目标分布的玩具示例中，相较于标准MALA，方差降低最高可达500倍。

ABSTRACT

It has been shown that the nonreversible overdamped Langevin dynamics enjoy better convergence properties in terms of spectral gap and asymptotic variance than the reversible one. In this article we propose a variance reduction method for the Metropolis-Hastings Adjusted Langevin Algorithm (MALA) that makes use of the good behaviour of the these nonreversible dynamics. It consists in constructing a nonreversible Markov chain (with respect to the target invariant measure) by using a Generalized Metropolis-Hastings adjustment on a lifted state space. We present two variations of this method and we discuss the importance of a well-chosen proposal distribution in terms of average rejection probability. We conclude with numerical experimentations to compare our algorithms with the MALA, and show variance reduction of several order of magnitude in some favourable toy cases.

研究动机与目标

• 开发非可逆MCMC算法，与标准可逆方法（如MALA）相比，提升收敛速度并降低渐近方差。
• 通过广义Metropolis-Hastings调整引入非可逆漂移，解决经典MALA在高维或集中目标分布中的局限性。
• 设计高效的提议机制——特别是利用哈密顿积分器——在保持高接受率的同时实现方差降低。
• 通过低维集中分布上的数值实验，展示所提算法的实际优越性。

提出的方法

• 在提升状态空间上提出广义Metropolis-Hastings调整，以构造相对于目标测度π的非可逆马尔可夫链。
• 使用反对称矩阵J定义非可逆漂移γ(x) = J∇logπ(x)，确保∇·(γπ) = 0，从而保持不变测度π。
• 在辛变量变换后使用中心点积分器，数值求解提议步的哈密顿动力学。
• 在提升空间中应用Metropolis-Hastings接受-拒绝步骤，以校正离散化误差并确保细致平衡。
• 在可分哈密顿量（如四次高斯情况）中使用显式积分器，避免定点迭代，降低计算成本。
• 在GMALA中采用中点离散化，在保持高接受率的同时避免接受比中计算Hessian矩阵。

实验结果

研究问题

• RQ1 非可逆过阻尼Langevin动力学能否有效融入Metropolis-Hastings框架，以降低MCMC采样中的渐近方差？
• RQ2 提议分布与积分器的选择如何影响非可逆MCMC算法的平均拒绝概率与性能表现？
• RQ3 与标准MALA相比，提升与哈密顿动力学在高维或集中目标分布中的采样效率能提升多少？
• RQ4 在非可逆MCMC方法中，显式与隐式积分器的使用对计算成本与方差降低有何影响？
• RQ5 在实际应用中，广义与混合Metropolis-HastingsLangevin算法能否实现数个数量级的方差降低？

主要发现

• 在具有大时间步长的扭曲高斯分布上，GHMALA相较于经典MALA实现了约500倍的方差降低。
• 在相同的扭曲高斯案例中，GMALA相较于MALA实现了约60倍的方差降低，且在小时间步长下性能相近。
• 在四次高斯分布中，GHMALA在小时间步长下将渐近方差降低了约280倍，其最小方差约为MALA的1/50。
• 当GMALA因非Lipschitz漂移导致提议核变得病态时，GHMALA仍保持稳定且方差更低。
• 采用辛变量变换与中心点积分器，实现了哈密顿动力学的稳定与精确积分，支持更大时间步长与更低方差。
• 在可分且非Lipschitz情形（如四次势能）中，显式积分器有效避免了定点迭代，降低了计算成本，同时保持了方差降低效果。