[论文解读] Generalizing the No-U-Turn Sampler to Riemannian Manifolds

Michael Betancourt|arXiv (Cornell University)|Apr 6, 2013

Markov Chains and Monte Carlo Methods参考文献 2被引用 32

一句话总结

该论文通过引入一种几何准则来识别轨迹积分中最大振荡的转折点，将无U形抽样器（No-U-Turn Sampler, NUTS）推广至黎曼流形哈密顿蒙特卡洛（Riemannian manifold Hamiltonian Monte Carlo, RMHMC）。通过利用典则一形式沿哈密顿流的李拖动来映射动量，该方法确保了最优积分时间，避免了轨迹回溯，显著提升了在复杂、弯曲流形上的抽样效率。

ABSTRACT

Hamiltonian Monte Carlo provides efficient Markov transitions at the expense of introducing two free parameters: a step size and total integration time. Because the step size controls discretization error it can be readily tuned to achieve certain accuracy criteria, but the total integration time is left unconstrained. Recently Hoffman and Gelman proposed a criterion for tuning the integration time in certain systems with their No U-Turn Sampler, or NUTS. In this paper I investigate the dynamical basis for the success of NUTS and generalize it to Riemannian Manifold Hamiltonian Monte Carlo.

研究动机与目标

• 为黎曼流形哈密顿蒙特卡洛（RMHMC）中缺乏最优积分时间的合理准则提供解决方案。
• 将无U形抽样器（NUTS）从欧几里得空间扩展至弯曲的黎曼流形。
• 在复杂、非凸目标分布中识别最长振荡的转折点（TPOLO），此时标准NUTS因检测失败而失效。
• 开发一种NUTS的推广方法，避免轨迹回溯，从而减少计算浪费和自相关性。
• 利用哈密顿流的几何不变量，实现在RMHMC中自动适应积分时间。

提出的方法

• 利用哈密顿流沿流形对典则一形式θ进行李拖动，将动量从初始点映射到终点。
• 将广义动量平均ρ(R_t)定义为轨迹上时间平均的拉回动量。
• 基于内积⟨p(R_t), ρ(R_t)⟩_Λ(R_t) < 0引入停止准则，表明已到达转折点。
• 通过黎曼度量定义动能和哈密顿流，将该准则应用于RMHMC。
• 采用离散时间积分近似ρ(R_t)中的连续积分，使其在实践中可实现。
• 利用辛几何与黎曼结构，确保准则具有不变性且具有几何意义。

实验结果

研究问题

• RQ1 标准欧几里得空间中的NUTS准则能否推广至标准欧几里得转折点检测失效的黎曼流形？
• RQ2 何种几何不变量可可靠识别RMHMC中无需先验目标分布知识的最优积分时间？
• RQ3 如何在弯曲流形上沿哈密顿轨迹一致地映射动量，以检测运动开始反转的时刻？
• RQ4 所提出的准则是否能正确识别非凸、扭曲分布（如香蕉形后验）中的TPOLO？
• RQ5 该准则能否利用概率编程框架中常见的离散积分器在实践中高效实现？

主要发现

• 当使用SoftAbs度量时，广义NUTS准则在香蕉形分布中成功识别出TPOLO，避免了轨迹回溯。
• 该方法对非凸和弯曲的目标分布具有鲁棒性，标准NUTS因错误检测转折点而失效。
• 准则⟨p(R_t), ρ(R_t)⟩_Λ(R_t) < 0能可靠指示最长振荡的结束，从而最小化自相关性并最大化提议多样性。
• 该方法与现有RMHMC实现向后兼容，可集成至Stan等概率编程系统。
• 其几何基础确保了重参数化不变性，并保持了哈密顿流的辛结构。
• 该方法通过在转折点精确终止轨迹，即使在动力学的瞬态阶段，也能有效减少计算浪费。