[论文解读] Riemannian Manifold Hamiltonian Monte Carlo

Mark Girolami, Ben Calderhead+1 more|arXiv (Cornell University)|Jul 6, 2009

Markov Chains and Monte Carlo Methods参考文献 31被引用 27

一句话总结

本文提出了黎曼流形哈密顿蒙特卡洛（RMHMC），一种完全自动化的MCMC采样器，利用参数空间的黎曼几何特性，通过度量张量自适应调整提议分布。通过采用半显式二阶辛积分器来处理非可分哈密顿量，RMHMC在逻辑斯蒂回归、点过程、随机波动率和动力系统模型的高维、强相关后验分布中，显著提升了收敛速度和探索效率，实现了时间归一化的有效样本量（ESS）的显著改善。

ABSTRACT

The paper proposes a Riemannian Manifold Hamiltonian Monte Carlo sampler to resolve the shortcomings of existing Monte Carlo algorithms when sampling from target densities that may be high dimensional and exhibit strong correlations. The method provides a fully automated adaptation mechanism that circumvents the costly pilot runs required to tune proposal densities for Metropolis-Hastings or indeed Hybrid Monte Carlo and Metropolis Adjusted Langevin Algorithms. This allows for highly efficient sampling even in very high dimensions where different scalings may be required for the transient and stationary phases of the Markov chain. The proposed method exploits the Riemannian structure of the parameter space of statistical models and thus automatically adapts to the local manifold structure at each step based on the metric tensor. A semi-explicit second order symplectic integrator for non-separable Hamiltonians is derived for simulating paths across this manifold which provides highly efficient convergence and exploration of the target density. The performance of the Riemannian Manifold Hamiltonian Monte Carlo method is assessed by performing posterior inference on logistic regression models, log-Gaussian Cox point processes, stochastic volatility models, and Bayesian estimation of parameter posteriors of dynamical systems described by nonlinear differential equations. Substantial improvements in the time normalised Effective Sample Size are reported when compared to alternative sampling approaches. Matlab code at \url{http://www.dcs.gla.ac.uk/inference/rmhmc} allows replication of all results.

研究动机与目标

• 解决现有蒙特卡洛方法在高维、强相关后验分布中的低效问题。
• 消除在梅特罗波利斯-黑斯廷斯和哈密顿蒙特卡洛方法中为调优提议分布而进行的昂贵预运行实验。
• 开发一种完全自动化的自适应机制，动态适应参数空间的局部几何结构。
• 在高维空间中，实现对马尔可夫链瞬态和稳态阶段的高效采样。
• 在复杂统计模型中提升时间归一化的有效样本量（ESS）。

提出的方法

• 该方法利用参数空间的黎曼流形结构，其中费雪信息度量定义了局部几何。
• 构建一种哈密顿蒙特卡洛采样器，通过在每一步使用度量张量自适应调整提议分布，确保对局部曲率的最优缩放。
• 推导出一种半显式二阶辛积分器，用于在流形上模拟轨迹，即使对于非可分哈密顿量也适用。
• 该积分器保持了辛结构，确保长期稳定性和准确采样。
• 该算法能自动适应马尔可夫链在瞬态和稳态阶段的不同缩放需求。
• 该方法在MATLAB中实现，并可通过 http://www.dcs.gla.ac.uk/inference/rmhmc 获取，以确保完全可复现。

实验结果

研究问题

• RQ1 能否设计一种哈密顿蒙特卡洛采样器，使其能自动适应后验分布的局部黎曼流形几何？
• RQ2 在高维、强相关模型中，RMHMC与标准HMC和MALA相比表现如何？
• RQ3 所提出的用于非可分哈密顿量的辛积分器能否在复杂后验几何中保持准确性和效率？
• RQ4 RMHMC在多种统计模型中对时间归一化的有效样本量（ESS）的提升程度如何？
• RQ5 自动自适应机制是否能消除MCMC采样中对人工调优或预运行实验的需求？

主要发现

• 在所有测试模型中，RMHMC相较于其他采样方法，在时间归一化的有效样本量（ESS）方面均实现了显著提升。
• 该方法能高效探索具有强相关性的高维后验分布，尤其在逻辑斯蒂回归和随机波动率模型中表现突出。
• 半显式辛积分器确保了在弯曲流形上哈密顿动力学的稳定且精确的模拟。
• 通过度量张量实现的自动自适应机制，消除了对预运行实验或人工调优提议分布的需求。
• 在具有复杂非线性参数依赖关系的模型中（如由非线性微分方程定义的模型），性能提升尤为显著。
• 所有结果均可通过提供的MATLAB实现（http://www.dcs.gla.ac.uk/inference/rmhmc）完全复现。