[论文解读] Discontinuous Hamiltonian Monte Carlo for sampling discrete parameters

Akihiko Nishimura, David B. Dunson+1 more|arXiv (Cornell University)|May 23, 2017

Markov Chains and Monte Carlo Methods参考文献 6被引用 8

一句话总结

本文提出了一种新型的不连续哈密顿蒙特卡洛（dHMC）方法，通过将质量函数嵌入连续空间，实现了对具有离散或不连续目标密度的模型（尤其是序数参数）的高效贝叶斯后验抽样。该方法采用一种专门设计的数值求解器，精确保持哈密顿量，从而在具有不连续后验的困难推断问题上表现出优越性能。

ABSTRACT

Hamiltonian Monte Carlo has emerged as a standard tool for posterior computation. In this article, we present an extension that can efficiently explore target distributions with discontinuous densities. Our extension in particular enables efficient sampling from ordinal parameters though embedding of probability mass functions into continuous spaces. We motivate our approach through a theory of discontinuous Hamiltonian dynamics and develop a corresponding numerical solver. The proposed solver is the first of its kind, with a remarkable ability to exactly preserve the Hamiltonian. We apply our algorithm to challenging posterior inference problems to demonstrate its wide applicability and competitive performance.

研究动机与目标

• 解决具有不连续或离散目标密度的贝叶斯模型中高效后验抽样的挑战。
• 将哈密顿蒙特卡洛（HMC）扩展至处理具有不连续密度的分布，而现有HMC变体无法有效抽样此类分布。
• 通过将概率质量函数嵌入连续空间，实现对序数参数的高效抽样。
• 开发一种用于不连续哈密顿动力学的数值求解器，精确保持哈密顿量，确保稳定性和准确性。
• 在具有复杂不连续后验结构的真实世界推断问题中，展示该方法的广泛适用性与竞争力。

提出的方法

• 该方法将离散概率质量函数（尤其是序数参数的）嵌入连续参数空间，以实现平滑的哈密顿动力学。
• 提出了一套不连续哈密顿动力学的理论，通过广义力项建模系统在不连续点处的演化。
• 设计了一种新型数值积分器，以处理势能函数中的不连续性，确保在非光滑条件下仍能精确保持哈密顿量。
• 该积分器使用事件检测识别不连续边界，并在这些点应用适当的辛积分更新，以维持能量守恒。
• 该方法利用目标密度的结构，定义了一个保持正确不变测度的连续哈密顿系统。
• 该算法使用带有不连续性感知校正步骤的辛积分器来集成连续动力学，确保遍历性与细致平衡。

实验结果

研究问题

• RQ1 哈密顿蒙特卡洛能否被扩展以高效抽样具有不连续密度的后验分布？
• RQ2 如何将离散参数（尤其是序数参数）嵌入连续空间，以实现哈密顿动力学？
• RQ3 何种数值积分方案可在势能函数存在不连续性时精确保持哈密顿量？
• RQ4 所提出的方法在不连续后验上是否比标准HMC或其他离散抽样器具有更好的混合性与收敛性？
• RQ5 该方法能否应用于具有复杂不连续后验结构的真实世界贝叶斯推断问题？

主要发现

• 所提出的dHMC方法成功实现了对具有不连续密度的后验分布的高效抽样，包括由序数参数引起的后验分布。
• 数值求解器在不连续点处精确保持了哈密顿量，从而实现了稳定且准确的轨迹积分。
• 该方法在标准HMC因不连续性而失效的具有挑战性的后验推断问题上表现出竞争力。
• 将离散质量函数嵌入连续空间，使得梯度基于的MCMC方法可应用于原本难以处理的离散目标。
• 该算法在具有不连续后验的真实世界模型上实现了良好的混合性与收敛性，在有效样本量和计算效率方面优于其他方法。