[论文解读] Quantum-Inspired Hamiltonian Monte Carlo for Bayesian Sampling

Ziming Liu, Zheng Zhang|arXiv (Cornell University)|Dec 4, 2019

Markov Chains and Monte Carlo Methods参考文献 42被引用 5

一句话总结

本文提出量子启发的哈密顿蒙特卡洛（QHMC），一种贝叶斯采样方法，将粒子质量视为随机正定矩阵，受量子力学能量-时间不确定关系启发。通过允许自适应时间尺度，QHMC在尖峰型和多模态后验分布中提升了采样效率，其随机梯度变体（QSGNHT）在神经网络剪枝和图像去噪任务中表现优于HMC及其变体。

ABSTRACT

Hamiltonian Monte Carlo (HMC) is an efficient Bayesian sampling method that can make distant proposals in the parameter space by simulating a Hamiltonian dynamical system. Despite its popularity in machine learning and data science, HMC is inefficient to sample from spiky and multimodal distributions. Motivated by the energy-time uncertainty relation from quantum mechanics, we propose a Quantum-Inspired Hamiltonian Monte Carlo algorithm (QHMC). This algorithm allows a particle to have a random mass matrix with a probability distribution rather than a fixed mass. We prove the convergence property of QHMC and further show why such a random mass can improve the performance when we sample a broad class of distributions. In order to handle the big training data sets in large-scale machine learning, we develop a stochastic gradient version of QHMC using Nos{é}-Hoover thermostat called QSGNHT, and we also provide theoretical justifications about its steady-state distributions. Finally in the experiments, we demonstrate the effectiveness of QHMC and QSGNHT on synthetic examples, bridge regression, image denoising and neural network pruning. The proposed QHMC and QSGNHT can indeed achieve much more stable and accurate sampling results on the test cases.

研究动机与目标

• 为解决标准哈密顿蒙特卡洛（HMC）在稀疏和低秩贝叶斯建模中常见的尖峰型和多模态后验分布采样效率低下的问题。
• 利用量子力学中的能量-时间不确定关系，通过随机质量矩阵实现采样中的自适应时间尺度。
• 开发可扩展的随机梯度版本QSGNHT，适用于大规模机器学习，并在稳态分布上提供理论保证。
• 在合成数据和真实世界贝叶斯学习任务（包括回归、图像去噪和神经网络剪枝）中，展示改进的采样精度和收敛稳定性。

提出的方法

• 提出QHMC，其中粒子质量矩阵为从概率分布中抽取的随机正定矩阵，而非固定标量或矩阵。
• 在随机梯度版本中使用Nosé-Hoover热浴以维持热平衡，确保正确的稳态分布。
• 提出QSGNHT，即QHMC的随机梯度变体，采用批量估计梯度，并对采样质量施加下界$m_0$以防止数值不稳定性。
• 在采样过程中引入马尔可夫链蒙特卡洛的Metropolis-Hastings校正步骤，以确保细致平衡并收敛至真实后验分布。
• 采用三种参数化方式——S-QHMC、D-QHMC和M-QHMC——为不同类型的分布提供灵活且高效的实现。
• 理论分析证明QHMC可收敛至真实后验分布，并利用随机微分方程证明QSGNHT的稳态分布合理性。

实验结果

研究问题

• RQ1 与固定质量HMC相比，哈密顿动力学中采用随机质量矩阵是否能提升多模态和尖峰型后验分布的采样效率？
• RQ2 量子力学中的能量-时间不确定关系如何启发更有效的贝叶斯推断采样策略？
• RQ3 QHMC的随机梯度版本能否在保持正确稳态分布的同时扩展至大规模数据集？
• RQ4 QHMC是否在真实世界的贝叶斯学习任务（如神经网络剪枝和图像去噪）中优于标准HMC、SGHMC和SGLD？
• RQ5 QHMC收敛至真实后验分布的理论条件是什么？

主要发现

• 在MNIST图像分类任务中，经过贝叶斯剪枝后，QSGNHT的测试准确率达到96.6% ± 0.2，较SGNHT的94.4% ± 0.2高出2%。
• 在神经网络剪枝中，所提出的QSGNHT压缩率高达54.2 ± 2.1，较SGNHT的47.6 ± 1.3高出14%，表明模型稀疏性更优。
• 在图像去噪任务中，QHMC和QSGNHT在具有陡峭过渡区域的区域中生成了更精确且更稳定的重建结果，优于HMC和SGHMC。
• 在合成多模态分布上，QHMC成功探索了所有模式，而标准HMC因固定时间尺度限制而未能实现有效混合。
• 理论分析确认QHMC可收敛至真实后验分布，且QSGNHT在随机梯度下保持正确的稳态分布。
• 对采样质量施加下界$m_0$有效防止了数值发散，提升了QSGNHT的训练稳定性。