[论文解读] Probabilistic Path Hamiltonian Monte Carlo

Vu Dinh, Arman Bilge+2 more|arXiv (Cornell University)|Feb 25, 2017

Topological and Geometric Data Analysis被引用 12

一句话总结

本文提出概率路径哈密顿蒙特卡洛（PPHMC），一种用于从复杂、组合结构空间（如系统发育树空间）中抽样的新型HMC扩展方法。通过在欧氏单纯形上结合跳跃积分与边界处的概率拓扑转移，并引入代理平滑函数，PPHMC实现了高接受率并高效探索不连续后验分布，在模拟数据和真实系统发育数据上均表现出色。

ABSTRACT

Hamiltonian Monte Carlo (HMC) is an efficient and effective means of sampling posterior distributions on Euclidean space, which has been extended to manifolds with boundary. However, some applications require an extension to more general spaces. For example, phylogenetic (evolutionary) trees are defined in terms of both a discrete graph and associated continuous parameters; although one can represent these aspects using a single connected space, this rather complex space is not suitable for existing HMC algorithms. In this paper, we develop Probabilistic Path HMC (PPHMC) as a first step to sampling distributions on spaces with intricate combinatorial structure. We define PPHMC on orthant complexes, show that the resulting Markov chain is ergodic, and provide a promising implementation for the case of phylogenetic trees in open-source software. We also show that a surrogate function to ease the transition across a boundary on which the log-posterior has discontinuous derivatives can greatly improve efficiency.

研究动机与目标

• 将哈密顿蒙特卡洛（HMC）扩展至具有复杂组合结构的空间（如系统发育树空间），这些空间并非流形且缺乏全局可微性。
• 解决在树空间后验分布上抽样时，对数后验在拓扑边界处导数不连续的挑战。
• 为建模为粘合欧氏分量的单纯形复形（orthant complexes）的树空间，开发一种理论基础扎实、可遍历的马尔可夫链抽样方法。
• 通过引入代理平滑函数，提升在高维、'尖峰'型后验分布中的抽样效率，以应对非光滑后验梯度问题。

提出的方法

• PPHMC在树空间的每个单纯形（即固定树拓扑的欧氏分量）内执行标准的跳跃积分器步骤。
• 在单纯形之间的边界处（代表不同树拓扑之间的转换），PPHMC在相邻拓扑中进行随机且均匀的选择，以保持概率可逆性。
• 该方法保持了关键的HMC特性：概率时间可逆性、体积保持性以及可达性，这些特性共同确保了所生成马尔可夫链的可遍历性。
• 引入代理平滑函数，以在导数不连续的边界附近近似对数后验，从而支持更长的跳跃积分轨迹并提高接受率。
• 该代理函数用于平滑势能函数在不连续区域附近的特性，使即使在真实后验不可微的情况下，也能实现稳定且高效的哈密顿动力学。
• 该算法已实现为开源软件，并通过网格搜索对步长和平滑阈值进行调优，以优化接受率和路径长度。

实验结果

研究问题

• RQ1 HMC能否被扩展至非流形、组合结构复杂的空间（如系统发育树空间）？
• RQ2 对于在不同拓扑分量边界处进行随机选择的HMC类算法，如何建立其可遍历性？
• RQ3 代理平滑函数能否显著提升在后验分布具有不连续导数时HMC的抽样效率？
• RQ4 代理函数在高维、'尖峰'型后验分布中，能在多大程度上实现更长的跳跃积分轨迹和更高的接受率？

主要发现

• 在模拟数据上，PPHMC的平均接受率约为0.68，接近Neal（2011）推荐的目标值0.65。
• 在DS4真实数据集上，代理平滑PPHMC的步长几乎比精确PPHMC大10倍，同时保持了高接受率。
• 当步长ε=0.0008时，代理平滑PPHMC在六边形热力图中显示出显著更长的轨迹和更多的拓扑转换（NNI移动），优于精确PPHMC。
• 最优平滑阈值被确定为δ ≈ 2ε，该值在DS4数据集上各类参数设置下使平均接受率最大化。
• 代理函数使在'尖峰'型后验分布中实现稳定高效抽样成为可能，而标准HMC因在拓扑边界处导数不连续而失效。
• PPHMC的实现展示了在模拟和真实世界系统发育数据上的有效后验抽样，结果与MrBayes的基准结果一致。