[论文解读] Second order quantitative bounds for unadjusted generalized Hamiltonian Monte Carlo

Evan Camrud, Alain Durmus+2 more|arXiv (Cornell University)|Jun 15, 2023

Markov Chains and Monte Carlo Methods被引用 4

一句话总结

该论文通过扰动离散化的修正熵方法，为未调整的广义哈密顿蒙特卡洛（gHMC）建立了二阶定量收敛界。在对数索波列夫条件和适度的势能正则性下，证明了相对熵以 $\mathcal{O}(\delta^2)$ 的速率衰减，从而在达到精度 $\varepsilon$ 时，总迭代复杂度为 $\mathcal{O}(d/\varepsilon^{1/4})$，对于弱相互作用的平均场势能，复杂度进一步优化为 $\mathcal{O}((d/\varepsilon)^{1/4})$。

ABSTRACT

This paper provides a convergence analysis for generalized Hamiltonian Monte Carlo samplers, a family of Markov Chain Monte Carlo methods based on leapfrog integration of Hamiltonian dynamics and kinetic Langevin diffusion, that encompasses the unadjusted Hamiltonian Monte Carlo method. Assuming that the target distribution $π$ satisfies a log-Sobolev inequality and mild conditions on the corresponding potential function, we establish quantitative bounds on the relative entropy of the iterates defined by the algorithm, with respect to $π$. Our approach is based on a perturbative and discrete version of the modified entropy method developed to establish hypocoercivity for the continuous-time kinetic Langevin process. As a corollary of our main result, we are able to derive complexity bounds for the class of algorithms at hand. In particular, we show that the total number of iterations to achieve a target accuracy $\varepsilon >0$ is of order $d/\varepsilon^{1/4}$, where $d$ is the dimension of the problem. This result can be further improved in the case of weakly interacting mean field potentials, for which we find a total number of iterations of order $(d/\varepsilon)^{1/4}$.

研究动机与目标

• 建立未调整广义哈密顿蒙特卡洛（gHMC）在相对熵意义上的定量收敛速率。
• 将现有的基于超协变性的熵方法扩展至 gHMC 的离散、扰动方案。
• 在势能的对数索波列夫条件和正则性条件下，推导 gHMC 的显式迭代复杂度界。
• 分析势能结构（如平均场）对收敛速度的影响。
• 在相对熵中提供二阶误差界，优于一阶方案。

提出的方法

• 将连续时间修正熵方法适配至使用分裂积分器的离散、扰动 gHMC 动力学。
• 引入基于相对于目标测度 $\pi$ 的相对熵的离散李雅普诺夫函数。
• 利用扰动分析控制离散 gHMC 核与理想哈密顿动力学之间的差异。
• 使用加权范数 $\mathfrak{W}$ 和函数 $\mathbf{M}$ 来控制生成元中的高阶误差项。
• 应用对数索波列夫不等式以控制迭代过程中相对熵的衰减。
• 通过龙格-库塔积分器的泰勒展开和积分余项估计推导误差项的界。

实验结果

研究问题

• RQ1 在对数索波列夫条件下，能否为未调整的 gHMC 在相对熵中建立二阶收敛界？
• RQ2 gHMC 的离散、扰动性质如何影响熵衰减速率，相较于连续动力学？
• RQ3 在高维下，gHMC 达到目标精度 $\varepsilon$ 所需的总迭代复杂度是多少？
• RQ4 势能结构（如弱相互作用的平均场）如何影响收敛速率？
• RQ5 修正熵方法能否被适配至离散、非可逆的 MCMC 方案（如 gHMC）？

主要发现

• gHMC 迭代点的相对熵以 $\mathcal{O}(\delta^2)$ 的速率衰减，常数依赖于初始分布和势能正则性。
• 在标准对数索波列夫条件和正则性下，达到精度 $\varepsilon > 0$ 所需的总迭代次数为 $\mathcal{O}(d/\varepsilon^{1/4})$。
• 对于弱相互作用的平均场势能，迭代复杂度优化为 $\mathcal{O}((d/\varepsilon)^{1/4})$。
• 该分析在相对熵中建立了二阶误差界，优于如基于欧拉方法的一阶方案。
• 该方法对较弱假设也具有鲁棒性：将四阶正则性条件替换为三阶条件时，可得 $\mathcal{O}(\delta^2)$ 的界，而非 $\mathcal{O}(\delta^4)$。
• 结果通过连续时间修正熵方法的离散、扰动化适配推导得出，经由积分误差界和生成元分析验证。