[论文解读] Antithetic Riemannian Manifold And Quantum-Inspired Hamiltonian Monte Carlo

Wilson Tsakane Mongwe, Rendani Mbuvha+1 more|arXiv (Cornell University)|Jul 5, 2021

Markov Chains and Monte Carlo Methods参考文献 27被引用 5

一句话总结

本文提出了黎曼流形哈密顿蒙特卡洛（RMHMC）和量子启发哈密顿蒙特卡洛（QIHMC）的对称版本，利用动量对称性降低方差并提升有效样本量。结果表明，两种新算法均优于对称HMC，其中A-QIHMC在所有数据集上实现了最高的归一化有效样本量，而A-RMHMC在逻辑回归任务中表现最佳。

ABSTRACT

Markov Chain Monte Carlo inference of target posterior distributions in machine learning is predominately conducted via Hamiltonian Monte Carlo and its variants. This is due to Hamiltonian Monte Carlo based samplers ability to suppress random-walk behaviour. As with other Markov Chain Monte Carlo methods, Hamiltonian Monte Carlo produces auto-correlated samples which results in high variance in the estimators, and low effective sample size rates in the generated samples. Adding antithetic sampling to Hamiltonian Monte Carlo has been previously shown to produce higher effective sample rates compared to vanilla Hamiltonian Monte Carlo. In this paper, we present new algorithms which are antithetic versions of Riemannian Manifold Hamiltonian Monte Carlo and Quantum-Inspired Hamiltonian Monte Carlo. The Riemannian Manifold Hamiltonian Monte Carlo algorithm improves on Hamiltonian Monte Carlo by taking into account the local geometry of the target, which is beneficial for target densities that may exhibit strong correlations in the parameters. Quantum-Inspired Hamiltonian Monte Carlo is based on quantum particles that can have random mass. Quantum-Inspired Hamiltonian Monte Carlo uses a random mass matrix which results in better sampling than Hamiltonian Monte Carlo on spiky and multi-modal distributions such as jump diffusion processes. The analysis is performed on jump diffusion process using real world financial market data, as well as on real world benchmark classification tasks using Bayesian logistic regression.

研究动机与目标

• 通过整合对称采样，解决哈密顿蒙特卡洛（HMC）采样器中高方差与低有效样本量的问题。
• 将对称采样扩展至黎曼流形HMC（RMHMC）与量子启发HMC（QIHMC），后者已在复杂后验分布上实现采样优化。
• 评估RMHMC与QIHMC的对称版本是否在真实世界贝叶斯推断任务中，相较对称HMC实现更高的有效样本量。
• 在跳扩散过程（金融数据）与贝叶斯逻辑回归基准上比较性能，评估原始与时间归一化的有效样本量。

提出的方法

• 通过赋予两个RMHMC链相反的动量符号，提出对称RMHMC，保留RMHMC对局部几何结构的感知动力学，同时降低方差。
• 通过将对称采样应用于量子启发的随机质量矩阵公式，开发对称QIHMC，增强在多模态与尖峰后验分布上的探索能力。
• 使用共享的随机数流耦合链，实现无偏估计，并通过负相关性实现方差降低。
• 采用固定路径长度与调优的步长实现算法，在真实世界数据集上评估性能。
• 通过执行时间归一化多元有效样本量（mESS），评估计算效率。
• 在mESS、执行时间与时间归一化mESS上，对比所有方法——HMC、对称HMC、RMHMC、对称RMHMC、QIHMC、对称QIHMC。

实验结果

研究问题

• RQ1 对称采样是否能提升黎曼流形哈密顿蒙特卡洛在相关与弯曲后验分布上的有效样本量？
• RQ2 对称采样能否增强量子启发哈密顿蒙特卡洛在多模态与尖峰后验分布（如跳扩散过程）上的性能？
• RQ3 与对称HMC相比，RMHMC与QIHMC的对称版本在有效样本量与计算效率方面表现如何？
• RQ4 几何感知动力学（RMHMC）与对称采样相结合，是否在贝叶斯逻辑回归任务上实现更优性能？
• RQ5 对称采样带来的性能提升是否在不同类型的后验分布（如多模态与相关型）中保持一致？

主要发现

• 在贝叶斯逻辑回归数据集上，对称RMHMC产生的多元有效样本量（mESS）最高，优于对称HMC与QIHMC。
• 在所有数据集上，包括标普500与美元兑南非兰特（USDZAR）金融数据，对称QIHMC实现了最高的归一化mESS（每秒mESS），表现最优。
• 在标普500与USDZAR跳扩散数据集上，对称QIHMC产生了最高的mESS，证实其在多模态与尖峰后验分布上的优越性。
• 所有对称变体（A-HMC、A-RMHMC、A-QIHMC）产生的mESS均高于其非对称对应版本，证明了对称采样的普遍有效性。
• 在澳大利亚与德国数据集上，对称RMHMC实现了最高的归一化mESS，达到17.23 mESS/秒，显著优于其他方法。
• 所有算法的对称版本在mESS上均持续高于其非对称版本，验证了对称MCMC在方差降低方面的实用性。