[论文解读] Hamiltonian Monte Carlo on Symmetric and Homogeneous Spaces via Symplectic Reduction

Alessandro Barp, A.D. Kennedy+1 more|arXiv (Cornell University)|Mar 7, 2019

Advanced Algebra and Geometry参考文献 47被引用 5

一句话总结

该论文通过利用辛约化将哈密顿蒙特卡洛（HMC）的动力学提升至具有全局坐标和常数度量的矩阵李群，提出了一种适用于对称及自然约化齐次空间的一般性框架。该方法利用群对称性避免了坐标奇点和约束，实现了在球面、施蒂费尔流形和格拉姆曼流形以及对称正定矩阵等弯曲流形上的高效、几何一致的采样。

ABSTRACT

The Hamiltonian Monte Carlo method generates samples by introducing a mechanical system that explores the target density. For distributions on manifolds it is not always simple to perform the mechanics as a result of the lack of global coordinates, the constraints of the manifold, and the requirement to compute the geodesic flow. In this paper we explain how to construct the Hamiltonian system on naturally reductive homogeneous spaces using symplectic reduction, which lifts the HMC scheme to a matrix Lie group with global coordinates and constant metric. This provides a general framework that is applicable to many manifolds that arise in applications, such as hyperspheres, hyperbolic spaces, symmetric positive-definite matrices, Grassmannian, and Stiefel manifolds.

研究动机与目标

• 解决在局部坐标引入奇点和数值不稳定性的情况下，对弯曲流形执行哈密顿蒙特卡洛采样的挑战。
• 通过将动力学嵌入具有全局坐标的李群，消除在流形上HMC对约束力或拉格朗日乘子的需求。
• 为包括球面、双曲空间、施蒂费尔和格拉姆曼流形以及对称正定矩阵在内的广泛类流形提供一种通用且几何一致的HMC框架。
• 通过利用矩阵群运算在提升后的相空间上构造对称辛积分器，实现高效采样。
• 通过群不变性和动量图守恒，自然地保持流形约束，避免数值漂移。

提出的方法

• 利用辛约化在矩阵李群 $\nG$ 上构造一个投影到目标流形 $\nM = \nG/\nK$ 的哈密顿系统，保持几何结构。
• 利用与 $\nK$-作用相关的动量图 $J$ 强制约束 $J = 0$，确保轨迹自然地保持在齐次空间内，无需显式约束。
• 将HMC动力学提升至李群 $\nG$，其中全局坐标和矩阵乘法简化了积分，避免了局部参数化带来的奇点。
• 将对称辛积分器构造成保持辛结构和群不变性的基本步骤的复合，确保长期稳定性。
• 使用 $\nG$ 上的Maurer–Cartan形式，以取值于李代数的微分形式表达动力学，通过矩阵指数高效计算测地线流。
• 应用诺特定理以利用对称性：哈密顿量的 $\nK$-不变性导致守恒量（广义动量），用于约化相空间并简化采样。

实验结果

研究问题

• RQ1 如何在不依赖局部坐标的情况下，将哈密顿蒙特卡洛推广到如球面和格拉姆曼流形等弯曲、非欧几里得流形？
• RQ2 能否利用辛约化在对称及自然约化齐次空间上构建一个全局有效的HMC框架？
• RQ3 如何在保持流形约束和辛结构的同时，将动力学提升至具有全局坐标的李群？
• RQ4 动量图在不使用势垒或拉格朗日乘子的情况下，如何实现对流形约束的强制？
• RQ5 如何利用矩阵群运算在弯曲流形上设计对称、辛积分器，以确保数值稳定性和精度？

主要发现

• 所提方法在对称及自然约化齐次空间（如 $S^n$、$\text{St}(k,n)$、$\text{Gr}(k,n)$ 和 $\text{Sym}^+(n)$）上实现了HMC采样，避免了坐标奇点和约束力。
• 通过将动力学提升至矩阵李群，该方法实现了全局坐标表示和常数度量，简化了数值积分，并避免了坐标边界处的问题。
• 辛约化的使用确保了哈密顿系统尊重流形的几何与拓扑结构，轨迹通过动量图自然地约束在齐次空间内。
• 该框架支持高效、对称的辛积分器，保持了辛结构和群不变性，从而实现稳定的长期采样行为。
• 在2-球面上的实验中，轨迹长度为6,371公里，步长为63.71公里，实现了无约束违反的稳定采样。
• 该方法可推广至所有自然约化齐次空间，为涉及非欧几里得采样的广泛统计与物理问题提供统一框架。