[论文解读] Towards Unifying Hamiltonian Monte Carlo and Slice Sampling

Yizhe Zhang, Xiangyu Wang+4 more|arXiv (Cornell University)|Feb 25, 2016

Markov Chains and Monte Carlo Methods被引用 10

一句话总结

本文通过哈密顿-雅可比方程统一了哈密顿蒙特卡洛（HMC）与切片采样，引入了多项式伽马采样器（MGS）作为辅助变量采样器的广义族。证明了当多项式参数 $a$ 增大时，单步样本自相关收敛至零，实现去相关采样——尽管数值复杂度随之上升。

ABSTRACT

We unify slice sampling and Hamiltonian Monte Carlo (HMC) sampling, demonstrating their connection via the Hamiltonian-Jacobi equation from Hamiltonian mechanics. This insight enables extension of HMC and slice sampling to a broader family of samplers, called Monomial Gamma Samplers (MGS). We provide a theoretical analysis of the mixing performance of such samplers, proving that in the limit of a single parameter, the MGS draws decorrelated samples from the desired target distribution. We further show that as this parameter tends toward this limit, performance gains are achieved at a cost of increasing numerical difficulty and some practical convergence issues. Our theoretical results are validated with synthetic data and real-world applications.

研究动机与目标

• 建立哈密顿蒙特卡洛（HMC）与切片采样之间基于哈密顿力学的理论联系。
• 通过推广HMC中的动能函数，构建一个统一的采样器族，即多项式伽马采样器（MGS）。
• 分析MGS的理论混合性能，特别是当多项式参数 $a$ 增大时样本的渐近去相关性。
• 评估理论采样效率提升与实际中数值挑战增加之间的权衡。
• 在合成数据和真实世界数据集（包括贝叶斯逻辑回归与独立成分分析）上验证所提方法。

提出的方法

• 利用经典力学中的哈密顿-雅可比方程，形式化HMC与切片采样之间的联系。
• 将HMC的动能函数推广为单项式形式 $K(p) \propto |p|^a$，从而创建一类新型采样器，称为多项式伽马采样器（MGS）。
• 证明不同 $a$ 值对应于具有非均匀切片分布的广义切片采样。
• 证明当 $a \to \infty$ 时，来自目标分布的样本的单步自相关收敛至零，意味着渐近不相关抽样。
• 使用蛙跳步长的数值积分实现MG-HMC，通过广义动量分布改进标准HMC。
• 应用自适应步长和质量矩阵调优，以提升高维设置下的数值稳定性。

实验结果

研究问题

• RQ1 HMC与切片采样如何通过哈密顿力学框架相互关联？
• RQ2 HMC中的动能函数能否被推广，以在单一理论框架下统一HMC与切片采样？
• RQ3 在广义动能函数中增大多项式参数 $a$ 对样本去相关性的理论影响是什么？
• RQ4 MG-HMC中，混合性能提升与数值复杂度增加之间的实际权衡如何？
• RQ5 在真实世界和合成数据上，MG-HMC与标准HMC及切片采样相比，有效样本量（ESS）表现如何？

主要发现

• 理论分析表明，当多项式参数 $a$ 增大时，来自目标分布的样本的单步自相关渐近收敛至零，表明混合性能提升且样本去相关性增强。
• 在一维双峰分布中，$a=2$ 的MG-HMC实现有效样本量（ESS）为24,298，显著优于 $a=0.5$（5,175）和 $a=1$（10,157）。
• 在二维双峰分布中，$a=2$ 的MG-HMC实现ESS为18,007，而 $a=0.5$ 为4,691，$a=1$ 为16,349，表明混合性能显著提升。
• 在真实世界的贝叶斯逻辑回归数据集上，$a=1$ 的MG-HMC实现最高最小ESS（中位数4,531），优于 $a=0.5$ 和 $a=2$，后者因接受率降低和数值不稳定性而表现更差。
• 在高维Caravan数据集（87维）上，$a=1$ 的MG-HMC仍优于 $a=0.5$ 和 $a=2$，尽管优势不那么明显，表明性能权衡具有维度依赖性。
• 在MEG数据集上的独立成分分析中，$a=1$ 的MG-HMC实现最佳ESS（2,677），接受率为0.97；而 $a=2$ 接受率降至0.77，ESS也更低，证实了更高 $a$ 值带来的数值代价。