[论文解读] Randomized Hamiltonian Monte Carlo as Scaling Limit of the Bouncy Particle Sampler and Dimension-Free Convergence Rates

George Deligiannidis, Daniel Paulin+2 more|arXiv (Cornell University)|Aug 13, 2018

Markov Chains and Monte Carlo Methods被引用 4

一句话总结

该论文证明了在高维极限下，Bouncy Particle Sampler (BPS) 弱收敛于 Randomized Hamiltonian Monte Carlo (RHMC)，并利用耦合与次协态技术，在强对数凹性且 Hessian 有界的条件下，建立了 RHMC 的无维收敛率。

ABSTRACT

The Bouncy Particle Sampler is a Markov chain Monte Carlo method based on a nonreversible piecewise deterministic Markov process. In this scheme, a particle explores the state space of interest by evolving according to a linear dynamics which is altered by bouncing on the hyperplane tangent to the gradient of the negative log-target density at the arrival times of an inhomogeneous Poisson Process (PP) and by randomly perturbing its velocity at the arrival times of an homogeneous PP. Under regularity conditions, we show here that the process corresponding to the first component of the particle and its corresponding velocity converges weakly towards a Randomized Hamiltonian Monte Carlo (RHMC) process as the dimension of the ambient space goes to infinity. RHMC is another piecewise deterministic non-reversible Markov process where a Hamiltonian dynamics is altered at the arrival times of a homogeneous PP by randomly perturbing the momentum component. We then establish dimension-free convergence rates for RHMC for strongly log-concave targets with bounded Hessians using coupling ideas and hypocoercivity techniques.

研究动机与目标

• 理解当状态空间维度增加时，Bouncy Particle Sampler (BPS) 的渐近行为。
• 在标度极限下，建立 BPS 与 Randomized Hamiltonian Monte Carlo (RHMC) 之间的严格联系。
• 在强对数凹目标分布且 Hessian 有界条件下，推导 RHMC 的无维收敛率。
• 利用耦合与次协态技术分析高维设置下的收敛性。
• 为非可逆 MCMC 方法在高维下的效率提供理论依据。

提出的方法

• 对 BPS 和 RHMC 均采用连续时间的随机过程框架（PDMP），其中粒子通过线性动力学演化，并在随机时刻受到扰动。
• 将 BPS 建模为：基于对数目标密度梯度的非齐次泊松过程触发速度跳跃，以及基于齐次泊松过程触发动量重置。
• 应用弱收敛理论，证明当维度趋于无穷时，BPS 过程的首项分量收敛于 RHMC 的对应分量。
• 采用耦合技术比较 RHMC 过程的样本路径，并界定向目标分布的收敛速率。
• 利用次协态方法，在强对数凹性与有界 Hessian 条件下，建立与维度无关的收敛速率。
• 分析 PDMP 的生成元与不变测度，以确保遍历性及向目标分布的收敛。

实验结果

研究问题

• RQ1 在高维极限下，Bouncy Particle Sampler 是否收敛于已知的 MCMC 方法？
• RQ2 在标度极限下，Bouncy Particle Sampler 与 Randomized Hamiltonian Monte Carlo 之间存在何种关系？
• RQ3 在强对数凹性且 Hessian 有界条件下，能否为 RHMC 建立无维收敛率？
• RQ4 耦合与次协态技术如何促进高维设置下收敛性的证明？
• RQ5 对于高维下的非可逆 PDMP 基采样器，能提供哪些理论保证？

主要发现

• 当状态空间维度趋于无穷时，Bouncy Particle Sampler 弱收敛于 Randomized Hamiltonian Monte Carlo。
• 极限过程 RHMC 是一种非可逆 PDMP，其动量在齐次泊松过程到达时刻被随机扰动。
• 在强对数凹性与有界 Hessian 条件下，为 RHMC 建立了无维收敛率。
• 收敛速率与维度无关，表明其在高维目标分布中的可扩展性。
• 耦合技术与次协态方法的结合，为高维非可逆 MCMC 的收敛性分析提供了严谨框架。
• 理论结果为 BPS 和 RHMC 等非可逆采样器在高维贝叶斯推断中表现出的实证效率提供了理论支持。