[论文解读] Discontinuous Hamiltonian Monte Carlo for models with discrete parameters and discontinuous likelihoods

Akihiko Nishimura, David B. Dunson+1 more|arXiv (Cornell University)|May 23, 2017

Markov Chains and Monte Carlo Methods被引用 7

一句话总结

本文提出间断哈密顿蒙特卡洛（dHMC），一种哈密顿蒙特卡洛的新扩展，可高效处理具有离散参数或间断似然函数的模型的后验抽样。通过建立间断哈密顿动力学的理论并开发一种精确保持哈密顿量的数值求解器，dHMC 在具有挑战性的后验推断问题中实现了准确且稳定的抽样，尤其适用于序数参数和间断密度的情形。

ABSTRACT

Hamiltonian Monte Carlo has emerged as a standard tool for posterior computation. In this article, we present an extension that can efficiently explore target distributions with discontinuous densities. Our extension in particular enables efficient sampling from ordinal parameters though embedding of probability mass functions into continuous spaces. We motivate our approach through a theory of discontinuous Hamiltonian dynamics and develop a corresponding numerical solver. The proposed solver is the first of its kind, with a remarkable ability to exactly preserve the Hamiltonian. We apply our algorithm to challenging posterior inference problems to demonstrate its wide applicability and competitive performance.

研究动机与目标

• 解决具有离散参数或间断似然函数的模型中高效后验计算的挑战，而标准 HMC 无法有效处理此类问题。
• 将哈密顿蒙特卡洛扩展至支持概率质量函数，通过将其嵌入连续空间实现。
• 为间断哈密顿动力学建立理论框架，以实现稳定且准确的抽样。
• 设计一种数值求解器，可在存在间断的情况下精确保持哈密顿量，确保长期稳定性和准确性。

提出的方法

• 提出间断哈密顿动力学的理论，用于建模势能发生跳跃的系统，如由离散参数引起的系统。
• 引入将离散概率质量函数连续嵌入连续参数空间的方法，以支持基于梯度的抽样。
• 开发一种数值积分器，通过精确建模在间断流形处的流动转换来处理间断。
• 使用事件检测定位间断边界，并应用保持哈密顿量在跳跃处不变的辛积分规则。
• 在间断处采用无拒绝的更新机制，以维持细致平衡并确保正确的平稳分布。
• 采用连续时间公式，即使势能函数不光滑，也能实现精确的哈密顿量保持。

实验结果

研究问题

• RQ1 哈密顿蒙特卡洛能否被扩展以高效抽样具有间断密度或离散参数的后验分布？
• RQ2 如何以保持哈密顿力学几何结构的方式形式化间断动力学？
• RQ3 何种数值积分方案可在存在间断的情况下精确保持哈密顿量？
• RQ4 如何在不损失统计保真度或引入偏差的前提下，将离散参数嵌入连续空间？
• RQ5 在具有挑战性的后验推断任务中，该方法相较于现有 MCMC 方法的性能提升如何？

主要发现

• 所提出的 dHMC 方法通过一种新颖的数值求解器实现了精确的哈密顿量保持，确保了抽样在长期运行中的稳定性和准确性。
• 该方法通过将概率质量函数嵌入连续空间，实现了对序数参数的高效后验推断。
• dHMC 在具有间断似然的复杂模型中表现出色，其有效样本量和收敛速度优于标准 HMC 及其他 MCMC 方法。
• 间断哈密顿动力学的理论为统计推断中处理非光滑系统提供了严格的理论基础。
• 数值求解器成功处理了间断流形，未引入偏差，也无需经验调参，同时保持了细致平衡和遍历性。