[论文解读] Mix & Match Hamiltonian Monte Carlo

Tijana Radivojević, Elena Akhmatskaya|arXiv (Cornell University)|Jun 13, 2017

Markov Chains and Monte Carlo Methods被引用 3

一句话总结

混合与匹配哈密顿蒙特卡洛（MMHMC）通过引入重要性采样和不可逆动力学，结合改进的哈密顿量与部分动量重置，显著提升了采样效率，尤其在高维问题中表现优异，其性能在经验基准测试中优于HMC、GHMC、RMHMC、MALA和RWMH。

ABSTRACT

The Hamiltonian Monte Carlo (HMC) method has been recognized as a powerful sampling tool in computational statistics. We show that performance of HMC can be dramatically improved by incorporating importance sampling and an irreversible part of the dynamics into the chain. This is achieved by replacing Hamiltonians in the Metropolis test with modified Hamiltonians, and a complete momentum update with a partial momentum refreshment. We call the resulting generalized HMC importance sampler---Mix & Match Hamiltonian Monte Carlo (MMHMC). The method is irreversible by construction and has been further complemented by (i) the efficient algorithms for computation of modified Hamiltonians; (ii) the implicit momentum update procedure as well as (iii) the two-stage splitting integration schemes specially derived for the methods sampling with modified Hamiltonians. MMHMC has been implemented in the in-house software package HaiCS (Hamiltonians in Computational Statistics), tested on the popular statistical models and compared in sampling efficiency with HMC, Generalized Hybrid Monte Carlo (GHMC), Riemann Manifold Hamiltonian Monte Carlo (RMHMC), Metropolis Adjusted Langevin Algorithm (MALA) and Random Walk Metropolis-Hastings (RWMH). To make a fair comparison, we propose a metric that accounts for both correlations among samples and weights, and can be readily used for all methods which generate such samples. The experiments reveal the superiority of MMHMC over popular sampling techniques, especially in solving high dimensional problems.

研究动机与目标

• 提升哈密顿蒙特卡洛（HMC）在高维统计模型中的采样效率。
• 通过在采样过程中引入不可逆性与重要性采样，解决现有HMC变体的局限性。
• 构建一个广义的HMC框架，保持细致平衡的同时提升混合效率并减少随机游走行为。
• 开发高效的计算工具，用于计算改进的哈密顿量并整合这些新公式下的动力学。

提出的方法

• 在梅特罗波利斯接受测试中，用改进的哈密顿量替代标准哈密顿量，以整合重要性采样。
• 引入部分动量重置而非完整动量更新，以实现不可逆动力学。
• 采用隐式动量更新方法，以提升积分过程中的数值稳定性。
• 使用专为改进哈密顿量采样设计的两阶段分裂积分格式。
• 开发高效算法以计算改进的哈密顿量，降低计算开销。
• 构建广义的HMC框架——MMHMC，其在保持细致平衡的同时，通过不可逆性提升混合效率。

实验结果

研究问题

• RQ1 在高维模型中，将重要性采样与不可逆动力学引入HMC是否能显著提升采样效率？
• RQ2 MMHMC在有效样本量和相关性降低方面与HMC、GHMC、RMHMC、MALA和RWMH相比表现如何？
• RQ3 为高效计算改进哈密顿量并整合这些新公式下的动力学，需要哪些计算技术？
• RQ4 是否存在一种统一指标，能公平比较包含加权方法在内的多种采样方法，同时兼顾样本相关性和权重？
• RQ5 所提出的方法是否在实现更快混合和减少随机游走行为的同时，仍保持细致平衡？

主要发现

• MMHMC在高维问题中相比HMC、GHMC、RMHMC、MALA和RWMH展现出更优的采样效率。
• 由于引入了不可逆动力学和重要性采样，该方法降低了样本相关性并提高了有效样本量。
• 所提出的采样方法比较指标同时考虑了样本相关性和权重，实现了对多样化算法的公平基准测试。
• 改进哈密顿量的高效计算与专用的两阶段分裂格式，使得在新动力学下实现稳定且精确的积分成为可能。
• 部分动量重置与隐式更新提升了数值稳定性与采样性能，同时不牺牲细致平衡。
• 实证结果证实，MMHMC在标准统计模型中，收敛速度与有效样本量方面均优于现有方法。