[论文解读] Geometrically Tempered Hamiltonian Monte Carlo

Akihiko Nishimura, David B. Dunson|arXiv (Cornell University)|Apr 4, 2016

Markov Chains and Monte Carlo Methods参考文献 32被引用 11

一句话总结

本文提出几何调制哈密顿蒙特卡洛（GTHMC），一种新型的黎曼流形HMC变体，通过设计特殊的度量张量，降低多模后验分布中不同模态之间的能量壁垒。借助外蕴几何与可变步长积分器，GTHMC实现了模态间的高效转移，在多模态场景下显著提升了有效样本量，优于标准HMC与RMHMC。

ABSTRACT

Hamiltonian Monte Carlo (HMC) has become routinely used for sampling from posterior distributions. Its extension Riemann manifold HMC (RMHMC) modifies the proposal kernel through distortion of local distances by a Riemannian metric. The performance depends critically on the choice of metric, with the Fisher information providing the standard choice. In this article, we propose a new class of metrics aimed at improving HMC's performance on multi-modal target distributions. We refer to the proposed approach as geometrically tempered HMC (GTHMC) due to its connection to other tempering methods. We establish a geometric theory behind RMHMC to motivate GTHMC and characterize its theoretical properties. Moreover, we develop a novel variable step size integrator for simulating Hamiltonian dynamics to improve on the usual Störmer-Verlet integrator which suffers from numerical instability in GTHMC settings. We illustrate GTHMC through simulations, demonstrating generality and substantial gains over standard HMC implementations in terms of effective sample sizes.

研究动机与目标

• 为解决标准HMC与RMHMC在多模后验分布中因模态间能量壁垒过高而导致混合性能差的问题。
• 设计一种基于几何动机的度量张量，以降低这些能量壁垒，从而促进模态间的更频繁转移。
• 基于外蕴几何建立RMHMC的严谨几何理论，使该方法更具直观性与可及性。
• 设计一种可变步长积分器，以克服GTHMC中的数值不稳定性，提升轨迹精度。
• 证明GTHMC在多模态抽样问题中可实现远高于标准HMC与RMHMC的有效样本量。

提出的方法

• 提出一类新型黎曼度量，专为降低多模后验分布中模态间能量壁垒而设计，使哈密顿动力学能更轻松地在模态间转移。
• 利用外蕴几何时空推导RMHMC的几何理论，相比内蕴几何方法，提供了更清晰的直观理解与显式表达式。
• 为哈密顿动力学引入一种可变步长积分器，能自适应局部曲率，提升GTHMC设置下的数值稳定性。
• 采用一种与可变步长兼容的改进接受-拒绝机制，提升抽样效率。
• 推导出新度量下的哈密顿动力学表达式：$ H(\bm{\theta}, \mathbf{p}) = -\log\pi(\bm{\theta}) + \frac{1}{2}\log|\mathbf{G}(\bm{\theta})| + \frac{1}{2}\mathbf{p}^T\mathbf{G}(\bm{\theta})^{-1}\mathbf{p} $，其中 $ \mathbf{G} $ 为所提出的度量张量。
• 通过模拟验证方法性能，结果表明有效样本量显著提升，尤其在具有挑战性的多模目标分布中表现突出。

实验结果

研究问题

• RQ1 能否设计一种黎曼度量，以降低多模后验分布中模态间的能量壁垒，从而改善HMC的混合性能？
• RQ2 如何利用外蕴几何时空重新表述RMHMC的几何理论，以获得更直观、更明确的结果？
• RQ3 何种积分器方案可在所提出的几何调制设置下确保哈密顿动力学模拟的数值稳定性与精度？
• RQ4 GTHMC在多模分布上的有效样本量表现相较于标准HMC与RMHMC如何？
• RQ5 可变步长积分器与改进的接受-拒绝机制能否推广至其他HMC变体？

主要发现

• GTHMC在多模后验分布上实现的有效样本量远高于标准HMC与RMHMC，展现出更优的混合性能。
• 所提出的几何调制度量能有效降低模态间能量壁垒，使哈密顿轨迹更频繁地在模态间转移。
• 可变步长积分器相比标准Störmer-Verlet格式，通过减少GTHMC设置下的数值不稳定性而表现更优。
• 外蕴几何表述相比内蕴几何方法，提供了更清晰、更直观的RMHMC动力学理解。
• 为可变步长适配的接受-拒绝机制提升了抽样效率，且可推广至其他HMC变体。
• 模拟结果证实，GTHMC在各类多模目标分布上泛化能力良好，有效样本量持续提升。