[论文解读] The Geometry of Hamiltonian Monte Carlo

Michael Betancourt, Leo C. Stein|arXiv (Cornell University)|Dec 18, 2011

Markov Chains and Monte Carlo Methods参考文献 4被引用 8

一句话总结

本文通过辛几何识别了允许的哈密顿函数的一般类，为哈密顿蒙特卡洛（HMC）建立了几何框架，实现了高效HMC算法的系统构建。关键贡献是针对约束流形提出了一种广义反射规则，该规则保持哈密顿量并确保细致平衡，从而将HMC扩展到贝叶斯推断中的复杂后验几何结构。

ABSTRACT

With its systematic exploration of probability distributions, Hamiltonian Monte Carlo is a potent Markov Chain Monte Carlo technique; it is an approach, however, ultimately contingent on the choice of a suitable Hamiltonian function. By examining both the symplectic geometry underlying Hamiltonian dynamics and the requirements of Markov Chain Monte Carlo, we construct the general form of admissible Hamiltonians and propose a particular choice with potential application in Bayesian inference.

研究动机与目标

• 通过辛几何建立哈密顿蒙特卡洛（HMC）的通用几何结构。
• 识别哈密顿函数在HMC中产生良态马尔可夫转移核的必要条件。
• 推导适用于约束流形的一般反射规则，以保持哈密顿量并确保细致平衡。
• 将HMC从标准物理哈密顿量扩展到贝叶斯推断中任意概率分布。
• 提供在复杂、弯曲参数空间上构建高效HMC算法的系统方法。

提出的方法

• 形式化光滑流形的切丛与余切丛，以在HMC中定义构型空间与相空间。
• 在余切丛上引入辛形式，以捕捉哈密顿动力学的内在几何结构。
• 通过要求与辛结构兼容并满足细致平衡，推导出允许哈密顿量的一般形式。
• 基于动量在法线方向上的投影，提出一种针对由约束 $C(\mathbf{q}) = 0$ 定义的边界的广义镜面反射规则。
• 使用黎曼度量 $\mathbf{\Lambda}^{-1}$ 定义一般动能项 $T(\mathbf{q}, \mathbf{p}) = \frac{1}{2} \sum_{ij} p_i p_j \Lambda^{ij}(\mathbf{q}) + \tau_2(\mathbf{q})$。
• 推导在 $C(\mathbf{q}) = 0$ 处反射时的动量更新 $\Delta\mathbf{p} = -2(\hat{\mathbf{n}}, \mathbf{p})_{\mathbf{\Lambda}} \hat{\mathbf{n}}$，以确保哈密顿量不变。

实验结果

研究问题

• RQ1 在HMC中，能产生有效、良态马尔可夫转移核的最一般哈密顿函数类是什么？
• RQ2 如何系统地将哈密顿动力学扩展到约束流形，同时保持细致平衡与哈密顿量不变？
• RQ3 HMC效率背后的几何结构是什么？如何利用该结构设计更优的采样算法？
• RQ4 如何将边界处的反射规则从标准情况推广到任意动能项？
• RQ5 辛结构在确保贝叶斯推断中复杂后验分布高效探索方面起什么作用？

主要发现

• 允许哈密顿量的一般形式由辛几何与细致平衡要求决定，从而实现了HMC算法的系统化设计。
• 推导出广义反射规则 $\Delta\mathbf{p} = -2(\hat{\mathbf{n}}, \mathbf{p})_{\mathbf{\Lambda}} \hat{\mathbf{n}}$，该规则在任意约束 $C(\mathbf{q}) = 0$ 上保持哈密顿量并确保细致平衡。
• 当 $\mathbf{\Lambda} = \mathbf{I}$ 时，该规则退化为经典镜面反射，验证了与已知物理情形的一致性。
• 该方法适用于一般形式的动能项 $T(\mathbf{q}, \mathbf{p}) = \tau(\sum_{ij} p_i p_j \Lambda^{ij}(\mathbf{q})) + \tau_2(\mathbf{q})$，将HMC扩展至非二次形式。
• 几何框架确保HMC在具有约束的非平凡、弯曲参数空间上依然有效且高效。
• 推导结果表明，HMC的效率并非源于特定哈密顿量，而是源于相空间的底层辛结构。