[论文解读] Note on the geodesic Monte Carlo

Andrew J. Holbrook|arXiv (Cornell University)|May 14, 2018

Statistical and numerical algorithms被引用 3

一句话总结

本文提出了两种替代性、概念上更简单的测地线蒙特卡洛（gMC）推导方法，用于嵌入流形上的贝叶斯推断，表明原始算法是具有非平凡质量矩阵的更广泛算法类中的特例。通过完全在嵌入坐标系中操作并避免使用流形的内在几何结构，该方法在先验定义于环境欧几里得空间时，消除了接受概率中雅可比校正的需求。

ABSTRACT

Geodesic Monte Carlo (gMC) is a powerful algorithm for Bayesian inference on non-Euclidean manifolds. The original gMC algorithm was cleverly derived in terms of its progenitor, the Riemannian manifold Hamiltonian Monte Carlo (RMHMC). Here, it is shown that alternative and theoretically simpler derivations are available in which the original algorithm is a special case of two general classes of algorithms characterized by non-trivial mass matrices. The proposed derivations work entirely in embedding coordinates and thus clarify the original algorithm as applied to manifolds embedded in Euclidean space.

研究动机与目标

• 通过从更直观的原理出发推导测地线蒙特卡洛（gMC），以澄清其理论基础。
• 解决原始gMC依赖于内在流形几何结构时产生的困惑，尤其是在目标分布定义于环境欧几里得空间的情况下。
• 证明原始gMC算法是具有非平凡质量矩阵的两类通用算法的特例。
• 表明当先验定义于嵌入坐标系中时，雅可比校正并非必要，与初始假设相反。
• 使gMC在欧几里得空间中定义先验的模型（如冯·米塞斯-费舍尔分布或矩阵布ingham-冯·米塞斯-费舍尔分布）中更易于实现与扩展。

提出的方法

• 通过等距嵌入映射 $x: \mathcal{Q} \to \mathbb{R}^d$，从内在坐标系到嵌入坐标系的变量变换推导gMC。
• 引入质量矩阵 $M = J_x(q) G(q)^{-1}$，将动量变换为嵌入空间中的速度类变量。
• 以嵌入位置 $x$ 和变换后动量 $v = Mp$ 表述哈密顿量，使用投影矩阵 $\Pi_x$ 投影到切空间。
• 将哈密顿量分为两部分：一部分用于动量扰动（$H^{[1]}$），另一部分用于测地线运动（$H^{[2]}$），从而实现迭代模拟。
• 通过在速度上使用退化高斯先验，推导出第二类算法，通过抵消对数伪行列式项，简化接受概率。
• 使用由速度与动量变换导出的雅可比校正进行Metropolis-Hastings校正，当 $M = I$ 时该校正形式简化。

实验结果

研究问题

• RQ1 测地线蒙特卡洛能否在不依赖内在流形几何结构的情况下推导，特别是在目标分布定义于环境欧几里得空间时？
• RQ2 当先验在嵌入坐标系中指定时，哈密顿量中是否必须包含对数雅可比项？
• RQ3 包含原始gMC的通用算法类是什么？非平凡质量矩阵如何影响动力学？
• RQ4 当先验定义于嵌入空间时，gMC中的接受概率如何简化？质量矩阵在此过程中起什么作用？
• RQ5 原始gMC算法能否作为基于速度或动量变换的更广泛、更直观的算法族的特例被恢复？

主要发现

• 原始测地线蒙特卡洛算法是两类具有非平凡质量矩阵的通用算法的特例，这些算法通过嵌入坐标系推导得出。
• 当先验定义于环境欧几里得空间时（例如球面上的冯·米塞斯-费舍尔分布），哈密顿量中的对数雅可比项是不必要的，可被省略。
• 在基于速度的推导中，接受概率显著简化，对数伪行列式项相互抵消，得到更清晰的表达式：$\alpha = -\log\pi(x_0) + \frac{1}{2}v_0^T(\Pi_{x_0}M\Pi_{x_0})v_0 + \log\pi(x_T) - \frac{1}{2}v_T^T(\Pi_{x_T}M\Pi_{x_T})v_T$。
• 当 $M = I$ 时，原始gMC被恢复，且雅可比校正完全消失，确认该算法仅在这一情况下保持辛结构。
• 推导过程表明，gMC可被解释为余切丛或切丛上的随机游走，具体取决于公式形式，其中基于速度的版本更具直观性。
• 该方法避免了对内在几何结构与坐标系的依赖，使基于嵌入空间中定义的先验的模型更具可访问性与实用性。