[论文解读] Microcanonical Hamiltonian Monte Carlo

Jakob Robnik, G. Bruno De Luca+2 more|arXiv (Cornell University)|Dec 16, 2022

Markov Chains and Monte Carlo Methods被引用 12

一句话总结

本文提出微正则哈密顿蒙特卡洛（MCHMC），一种新型采样方法，其基于固定能量的哈密顿动力学演化，而非标准HMC所采用的正则系综。通过调节哈密顿量，使动量的边缘分布再现目标分布，MCHMC在维度和条件数方面展现出更优的缩放特性，并通过高效的超参数调优方案，在基准问题上相比NUTS-HMC实现数量级的性能提升。

ABSTRACT

We develop Microcanonical Hamiltonian Monte Carlo (MCHMC), a class of models which follow a fixed energy Hamiltonian dynamics, in contrast to Hamiltonian Monte Carlo (HMC), which follows canonical distribution with different energy levels. MCHMC tunes the Hamiltonian function such that the marginal of the uniform distribution on the constant-energy-surface over the momentum variables gives the desired target distribution. We show that MCHMC requires occasional energy conserving billiard-like momentum bounces for ergodicity, analogous to momentum resampling in HMC. We generalize the concept of bounces to a continuous version with partial direction preserving bounces at every step, which gives an energy conserving underdamped Langevin-like dynamics with non-Gaussian noise (MCLMC). MCHMC and MCLMC exhibit favorable scalings with condition number and dimensionality. We develop an efficient hyperparameter tuning scheme that achieves high performance and consistently outperforms NUTS HMC on several standard benchmark problems, in some cases by more than an order of magnitude.

研究动机与目标

• 开发一类基于固定能量（微正则）哈密顿动力学的新MCMC采样器，与标准HMC所用的正则系综形成对比。
• 通过强制能量守恒并改善混合性，解决正则HMC在高维与病态问题中的局限性。
• 将HMC中的动量重抽样推广为能量守恒的动量反弹，实现在恒定能量面上的遍历采样。
• 提出一种连续、欠阻尼的类似朗之万动力学的变体（MCLMC），其具有非高斯噪声，同时保持能量守恒并提升采样效率。
• 证明MCHMC与MCLMC在维度与条件数方面均具有有利的缩放特性，优于如NUTS-HMC等最先进方法。

提出的方法

• 提出微正则哈密顿蒙特卡洛（MCHMC），其中目标分布从相空间中固定能量超曲面上的均匀分布采样得到。
• 通过约束 $ H(\mathbf{x}, \boldsymbol{\Pi}) = E $，调节哈密顿量，使得动量的边缘分布重现期望的目标分布 $ p(\mathbf{x}) $。
• 在每一步引入动量反弹，作为HMC中动量重抽样的连续类比，确保在能量曲面上的遍历性。
• 开发MCLMC作为具有部分方向保持反弹的非高斯、能量守恒、欠阻尼朗之万动力学变体。
• 推导出MCHMC的黎曼几何形式，表明其等价于度量 $ g_{ij} \propto (E - V(\mathbf{x}))^{2/q} \delta_{ij} $ 的共形平坦流形上的测地线流。
• 提出一种超参数调优方案，使MCHMC在标准基准测试中持续实现高性能，并显著优于NUTS-HMC。

实验结果

研究问题

• RQ1 能否利用固定能量哈密顿动力学构建高效的MCMC采样器，使其在高维与病态问题中优于正则HMC？
• RQ2 在不使用动量重抽样的情况下，如何确保微正则采样中的遍历性？动量反弹在此情境下的作用是什么？
• RQ3 微正则采样与黎曼流形上测地线流之间存在何种关系？如何利用该关系设计新型采样器？
• RQ4 MCHMC及其变体MCLMC在维度与条件数方面的性能缩放特性，相较于NUTS-HMC等现有方法如何？
• RQ5 能否构建一种连续、能量守恒、具有非高斯噪声的动力学系统，同时保持细致平衡并实现高混合效率？

主要发现

• MCHMC在标准基准测试中持续优于NUTS-HMC，采样效率提升达数量级。
• 该方法在维度与条件数方面均表现出有利的缩放特性，在高维与病态目标分布中优于正则HMC。
• 能量守恒的动量反弹对MCHMC中的遍历性至关重要，其作用类似于HMC中的动量重抽样，但能精确保持能量。
• 连续变体MCLMC提供欠阻尼、能量守恒的动力学，具有非高斯噪声，显著提升混合性与采样效率。
• 黎曼几何形式表明，微正则采样等价于由目标分布与能量决定的共形平坦流形上的测地线流。
• 新颖的超参数调优方案使MCHMC在多种问题中均实现高性能，使其成为现有基于HMC采样器的稳健且可扩展的替代方案。