[论文解读] Lagrangian and Hamiltonian Mechanics for Probabilities on the Statistical Manifold

Goffredo Chirco, Luigi Malagò+1 more|arXiv (Cornell University)|Sep 20, 2020

Statistical Mechanics and Entropy参考文献 22被引用 5

一句话总结

本文提出了一种新颖的拉格朗日和哈密顿框架，用于在概率分布的统计流形上实现加速自然梯度动力学，采用一种称为统计丛（Statistical Bundle）的希尔伯特丛结构。通过使用对偶平行移动和Bregman散度，推导出一致的欧拉-拉格朗日方程与哈密顿方程，将加速优化推广至非参数概率空间，从而在统计推断与机器学习应用中实现高效收敛。

ABSTRACT

We provide an Information-Geometric formulation of Classical Mechanics on the Riemannian manifold of probability distributions, which is an affine manifold endowed with a dually-flat connection. In a non-parametric formalism, we consider the full set of positive probability functions on a finite sample space, and we provide a specific expression for the tangent and cotangent spaces over the statistical manifold, in terms of a Hilbert bundle structure that we call the Statistical Bundle. In this setting, we compute velocities and accelerations of a one-dimensional statistical model using the canonical dual pair of parallel transports and define a coherent formalism for Lagrangian and Hamiltonian mechanics on the bundle. Finally, in a series of examples, we show how our formalism provides a consistent framework for accelerated natural gradient dynamics on the probability simplex, paving the way for direct applications in optimization, game theory and neural networks.

研究动机与目标

• 开发用于概率分布空间上加速优化的几何力学框架。
• 通过将其嵌入信息几何结构中，将加速梯度方法从欧几里得空间扩展至更广范围。
• 利用对偶平坦连接，形式化统计流形上的速度、加速度与动力学。
• 通过统计丛统一变分原理与信息几何，实现在概率函数上的连续时间动力学。
• 为使用类似动量的加速自然梯度动力学优化统计模型提供理论基础。

提出的方法

• 将统计流形形式化为有限样本空间上正概率函数的非参数空间。
• 引入统计丛作为希尔伯特丛，其纤维上的切空间与余切空间通过对数导数与共轭动量定义。
• 采用对偶平行移动（共轭对）在丛上定义一致的速度与加速度，确保对偶平坦几何结构。
• 基于Kullback-Leibler散度构造拉格朗日量与哈密顿量，利用Bregman散度推广Nesterov风格的加速。
• 利用费舍尔信息度量与指数族参数化，构建欧拉-拉格朗日与哈密顿系统。
• 在理想标度条件下对所得常微分方程组进行数值求解，通过仿真验证其收敛行为。

实验结果

研究问题

• RQ1 如何利用几何力学在概率分布的黎曼流形上一致地表述加速梯度动力学？
• RQ2 统计丛在统一统计动力学中的位置、速度与动量方面起到何种作用？
• RQ3 对偶平行移动与对偶平坦连接如何实现概率密度空间中加速度的一致定义？
• RQ4 Bregman拉格朗日量能否用于推导信息几何中加速优化方法的连续时间类比？
• RQ5 所提出的框架如何将Nesterov动量推广至非欧几里得、信息几何的设定？

主要发现

• 本文在统计丛上推导出一致的拉格朗日与哈密顿形式化，通过二阶微分方程描述加速自然梯度动力学。
• 加速度项通过双对偶平行移动显式计算，得到一个几何上一致的表达式，涉及得分平方的期望。
• 对于参数 a=1, b=0 的Kullback-Leibler拉格朗日量，系统退化为2N维常微分方程组，仿真结果表明其具有稳定收敛行为。
• 在理想标度（p=2, C=0.5）下，阻尼KL拉格朗日系统实现加速收敛，时间依赖系数 αt 与 βt 调制动量与阻尼。
• 哈密顿形式化产生一个耦合常微分方程组，其中动量演化由对数似然项与梯度修正项控制，确保稳定性与效率。
• 图2至图4的数值解表明，所提出的动力学收敛速度优于标准自然梯度，验证了该框架在机器学习优化中的潜力。