[论文解读] Roll-back Hamiltonian Monte Carlo

Kexin Yi, Finale Doshi‐Velez|arXiv (Cornell University)|Sep 8, 2017

Markov Chains and Monte Carlo Methods参考文献 13被引用 8

一句话总结

本文提出了一种新型的回滚哈密顿蒙特 Carlo（RBHMC）框架，用于从具有平滑底层密度的截断分布中进行采样。通过用陡峭的 sigmoid 近似替换不连续的截断边界，RBHMC 实现了可微分的动力学和在约束空间中的高效采样，在贝叶斯非负矩阵分解中实现了与吉布斯采样相当的性能，同时保持了计算效率。

ABSTRACT

We propose a new framework for Hamiltonian Monte Carlo (HMC) on truncated probability distributions with smooth underlying density functions. Traditional HMC requires computing the gradient of potential function associated with the target distribution, and therefore does not perform its full power on truncated distributions due to lack of continuity and differentiability. In our framework, we introduce a sharp sigmoid factor in the density function to approximate the probability drop at the truncation boundary. The target potential function is approximated by a new potential which smoothly extends to the entire sample space. HMC is then performed on the approximate potential. While our method is easy to implement and applies to a wide range of problems, it also achieves comparable computational efficiency on various sampling tasks compared to other baseline methods. RBHMC also gives rise to a new approach for Bayesian inference on constrained spaces.

研究动机与目标

• 解决将哈密顿蒙特 Carlo（HMC）应用于截断分布时面临的挑战，此类分布的截断边界存在不连续性和不可微性。
• 开发一种通用、易于实现的 HMC 框架，对任意截断边界保持计算效率。
• 实现在传统 HMC 因势函数不光滑而失效的约束参数空间上的有效贝叶斯推断。
• 为具有非负或有界先验的模型提供一种可扩展的替代吉布斯采样和拒绝采样方法的方案。

提出的方法

• 引入一个陡峭的 sigmoid 函数 $\sigma(x; \mu) = \frac{1}{1 + \exp(-\mu x)}$，用于在截断边界处近似单位阶跃函数，确保平滑性和可微性。
• 用 $\sigma(\mathbf{x}; \mu)$ 替代目标密度中的不连续指示函数 $\mathds{1}_{\text{ROI}}(\mathbf{x})$，在全样本空间上构建平滑势函数 $\tilde{U}(\mathbf{x})$。
• 通过在原始后验对数密度中添加 $\log[1 + \exp(-\mu \mathbf{W}_{ij})]$ 和 $\log[1 + \exp(-\mu \mathbf{A}_{ij})]$ 的对数 sigmoid 项，为贝叶斯非负矩阵分解构建近似势函数 $\tilde{U}(\mathbf{W}, \mathbf{A})$。
• 使用标准的 leapfrog 积分方法，基于平滑势函数 $\tilde{U}$ 执行 HMC，参数包括 $\varepsilon$（步长）、$L$（轨迹长度）和 $\mu$（sigmoid 的陡度）。
• 通过在上升势能面上模拟动力学，确保粒子从边界处回滚，模拟物理上的回滚行为。
• 将 $\tilde{U}$ 的采样结果用作真实截断后验的近似样本，当 $\mu$ 较大时，失真可忽略。

实验结果

研究问题

• RQ1 HMC 能否在保持计算效率的前提下，有效扩展至具有任意非光滑边界的截断分布？
• RQ2 基于 sigmoid 的截断边界平滑近似在多大程度上保持了目标分布的统计特性？
• RQ3 在贝叶斯非负矩阵分解中，RBHMC 是否在重构精度和采样效率方面优于传统吉布斯采样？
• RQ4 RBHMC 是否可应用于具有非共轭、约束性先验的一般贝叶斯模型，而无需专门推导？

主要发现

• RBHMC 在观测矩阵与从采样成分重构的矩阵之间实现了 0.4023819 的平均绝对差，优于吉布斯采样的 0.4065109。
• 在 10 次运行中，RBHMC 的平均绝对差标准差为 0.0013394，吉布斯采样的标准差为 0.0013314，表明两者稳定性相当。
• RBHMC 采样得到的基图像能准确恢复合成数据中的原始模式，证明了后验采样的准确性。
• 尽管增加了近似，RBHMC 在约束空间上的计算效率仍与其它基于 HMC 的方法相当。
• 该方法具有通用性，无需共轭性或特定边界结构，因此可广泛应用于具有约束的非共轭贝叶斯模型。