[论文解读] Non-Canonical Hamiltonian Monte Carlo

James A. Brofos, Roy R. Lederman|arXiv (Cornell University)|Aug 18, 2020

Markov Chains and Monte Carlo Methods参考文献 13被引用 7

一句话总结

本文通过使用辛几何将哈密顿蒙特 Carlo（HMC）扩展到规范辛结构之外，引入了非规范 HMC，从而通过非规范动力学实现更高效的抽样。提出了一种保持细致平衡的隐式积分器，并通过达布定理提出了一种显式近似方法，在基准问题上展示了比规范 HMC 和磁性 HMC 更高的有效样本量。

ABSTRACT

Hamiltonian Monte Carlo is typically based on the assumption of an underlying canonical symplectic structure. Numerical integrators designed for the canonical structure are incompatible with motion generated by non-canonical dynamics. These non-canonical dynamics, motivated by examples in physics and symplectic geometry, correspond to techniques such as preconditioning which are routinely used to improve algorithmic performance. Indeed, recently, a special case of non-canonical structure, magnetic Hamiltonian Monte Carlo, was demonstrated to provide advantageous sampling properties. We present a framework for Hamiltonian Monte Carlo using non-canonical symplectic structures. Our experimental results demonstrate sampling advantages associated to Hamiltonian Monte Carlo with non-canonical structure. To summarize our contributions: (i) we develop non-canonical HMC from foundations in symplectic geomtry; (ii) we construct an HMC procedure using implicit integration that satisfies the detailed balance; (iii) we propose to accelerate the sampling using an {\em approximate} explicit methodology; (iv) we study two novel, randomly-generated non-canonical structures: magnetic momentum and the coupled magnet structure, with implicit and explicit integration.

研究动机与目标

• 开发超越规范辛结构的哈密顿蒙特 Carlo 的几何基础。
• 在非规范辛流形上使用隐式积分构建可逆的 HMC 过程。
• 通过基于达布定理的坐标变换，开发显式积分器以加速抽样。
• 在基准推理任务上评估非规范 HMC 的性能，比较有效样本量与计算效率。
• 探索新型非规范结构（如磁性动量和耦合磁体动力学）以提升抽样效率。

提出的方法

• 使用辛几何在非规范辛向量空间上定义哈密顿动力学，推广标准 HMC 框架。
• 应用隐式中点积分器以在马尔可夫链中保持细致平衡，确保精确可逆性。
• 利用达布定理通过坐标变换将非规范辛形式转换为规范形式，从而实现显式积分。
• 开发一种辛 Gram-Schmidt 方法，用于计算坐标变换的基变换矩阵。
• 利用变换后的坐标实现一种近似显式积分器，降低计算成本，同时保持对后验分布的保真度。
• 将显式积分器与 Metropolis-Hastings 校正结合，以在近似抽样过程中保持细致平衡。

实验结果

研究问题

• RQ1 与规范 HMC 相比，哈密顿动力学中的非规范辛结构是否能提升 HMC 的抽样效率？
• RQ2 在非规范结构上使用隐式积分是否能保持细致平衡并确保有效的 MCMC 抽样？
• RQ3 基于达布定理的坐标变换所构建的显式积分器，能否在保持后验保真度的同时，提供一种计算成本更低的隐式积分替代方案？
• RQ4 如磁性动量和耦合磁体动力学等非规范结构，如何影响有效样本量与抽样效率？
• RQ5 是否存在一种系统性方法，可生成增强贝叶斯推断中混合效率的非规范辛结构？

主要发现

• 在基准问题上，采用隐式积分的非规范 HMC 实现了比规范 HMC 更高的平均有效样本量（ESS）和每秒最小 ESS。
• 基于达布定理的显式积分器生成的样本与真实后验分布高度一致，其 ESS 值与隐式积分器相当，但计算成本更低。
• 在 Fitzhugh-Nagumo 模型上，所有六种方法（规范、磁性及非规范变体）的推断结果近似一致，验证了显式近似的后验保真度。
• 耦合磁体结构与磁性动量结构均表现出更高的抽样效率，其每秒 ESS 值超过规范 HMC。
• 隐式积分器实现了每秒最小 ESS 2.96–2.97，优于规范 HMC 的 2.97，表明抽样效率持续提升。
• 显式积分器的 ESS 值在隐式方法的 5% 以内，同时减少了梯度计算次数，表明在精度与速度之间实现了良好权衡。