[论文解读] Spherical Hamiltonian Monte Carlo for Constrained Target Distributions

Shiwei Lan, Bo Zhou+1 more|PubMed|Sep 17, 2013

Markov Chains and Monte Carlo Methods参考文献 35被引用 41

一句话总结

本文提出球面哈密顿蒙特卡洛（Spherical Hamiltonian Monte Carlo, SHMC），一种新颖的MCMC方法，通过将参数空间映射到单位球面并将其扩展至D维球面，实现对约束目标分布的采样。通过利用球面上的测地线流，SHMC确保提议始终在约束范围内，显著提升了标准HMC和随机游走Metropolis在约束设置下的采样效率，实验结果表明其在截断高斯分布、贝叶斯回归及神经同步性模型中表现优异。

ABSTRACT

Statistical models with constrained probability distributions are abundant in machine learning. Some examples include regression models with norm constraints (e.g., Lasso), probit models, many copula models, and Latent Dirichlet Allocation (LDA) models. Bayesian inference involving probability distributions confined to constrained domains could be quite challenging for commonly used sampling algorithms. For such problems, we propose a novel Markov Chain Monte Carlo (MCMC) method that provides a general and computationally efficient framework for handling boundary conditions. Our method first maps the <i>D</i>-dimensional constrained domain of parameters to the unit ball [Formula: see text], then augments it to a <i>D</i>-dimensional sphere <b>S</b>^<i>D</i> such that the original boundary corresponds to the equator of <b>S</b>^<i>D</i> . This way, our method handles the constraints implicitly by moving freely on the sphere generating proposals that remain within boundaries when mapped back to the original space. To improve the computational efficiency of our algorithm, we divide the dynamics into several parts such that the resulting split dynamics has a partial analytical solution as a geodesic flow on the sphere. We apply our method to several examples including truncated Gaussian, Bayesian Lasso, Bayesian bridge regression, and a copula model for identifying synchrony among multiple neurons. Our results show that the proposed method can provide a natural and efficient framework for handling several types of constraints on target distributions.

研究动机与目标

• 解决标准HMC在采样约束目标分布时效率低下的问题，因为其提议常违反定义域约束。
• 克服现有约束HMC方法中采用边界反射或无穷势垒所导致的计算负担。
• 构建一种几何框架，通过流形扩展隐式强制约束，实现自然且高效的采样。
• 通过分离拉格朗日动力学并解析求解球面上的测地线流，提升计算效率。
• 在多种约束模型中验证该方法的有效性，包括贝叶斯回归与基于置换的神经同步检测模型。

提出的方法

• 将D维约束参数空间双射映射至单位球面 𝔹₀ᴰ(1)，确保所有约束取值均被包含在单位球内。
• 通过引入辅助变量 θ_{D+1}，将D维参数空间扩展至(D+1)维球面 𝕊ᴰ，使得单位球的边界对应于球面的赤道。
• 基于拉格朗日形式化定义球面上的哈密顿动力学，其中动能由环境空间中的速度导出，势能则用于强制实现球面约束。
• 将拉格朗日动力学分解为若干分量，实现球面上测地线流的解析求解，该流对应于流形上的最短路径。
• 使用蛙跳积分器在球面上数值模拟动力学，生成的提议被保证始终位于原始约束域内。
• 应用Metropolis-Hastings接受步骤以校正积分中的数值误差，保持细致平衡性与目标分布的不变性。

实验结果

研究问题

• RQ1 将约束参数空间通过几何变换映射至球面，是否能够实现高效且边界合规的MCMC采样？
• RQ2 如何解析求解球面上的测地线流，以提升哈密顿蒙特卡洛中的计算效率？
• RQ3 在约束分布上，Spherical HMC在有效样本量与计算成本方面，相较于标准HMC、随机游走Metropolis及Wall HMC，性能提升程度如何？
• RQ4 该方法是否可通过将约束映射至单位球面，推广至多种类型的约束？
• RQ5 在真实世界约束模型（如贝叶斯Lasso、桥接回归及神经同步性的Copula模型）中，该方法表现如何？

主要发现

• 在奖励刺激下，Spherical HMC在 β₁₄ 上实现了每秒最小有效样本量 1.98×10⁻²，显著优于Wall HMC（4.23×10⁻³）和RWM（7.08×10⁻⁴）。
• 在非奖励刺激下，Spherical HMC在 β₃₄ 上实现了每秒最小有效样本量 2.25×10⁻²，优于Wall HMC的3.63×10⁻³和RWM的5.74×10⁻⁴。
• 该方法成功检测到在奖励刺激下第1个与第4个神经元之间存在显著神经同步性，以及在非奖励刺激下第3个与第4个神经元之间存在显著神经同步性，后验分布明显与零分离。
• β₁₄ 和 β₃₄ 的轨迹图显示快速混合与低自相关性，表明采样效率高且收敛稳定。
• 采用解析测地线流显著降低了数值积分误差，提高了接受率，Spherical HMC在所有场景中平均接受概率分别为0.83和0.81。
• 该方法对多种约束类型具有鲁棒性，包括q-范数约束以及FGM Copula模型中钻石形参数空间，经平方根变换映射至单位球面后仍表现良好。