[论文解读] Pseudo-Riemannian geometry embeds information geometry in optimal transport

Ting‐Kam Leonard Wong, Jiaowen Yang|arXiv (Cornell University)|May 31, 2019

Geometric Analysis and Curvature Flows参考文献 47被引用 8

一句话总结

本文通过证明伪黎曼几何框架（由Kim和McCann提出，最初用于分析最优传输映射的正则性）自然编码了统计流形的对偶结构，建立了最优传输与信息几何之间的基本几何联系。关键贡献在于：通过最优传输映射定义的$c$-散度实现了信息几何中的对偶结构，而Ma-Trudinger-Wang（MTW）张量则获得了新的信息几何解释，即作为原生与对偶测地线之间散度的曲率度量。

ABSTRACT

Optimal transport and information geometry both study geometric structures on spaces of probability distributions. Optimal transport characterizes the cost-minimizing movement from one distribution to another, while information geometry originates from coordinate-invariant properties of statistical inference. Their connections and applications in statistics and machine learning have started to gain more attention. In this paper we give a new differential geometric connection between the two fields. Namely, the pseudo-Riemannian framework of Kim and McCann, a geometric perspective on the fundamental Ma-Trudinger-Wang (MTW) condition in the regularity theory of optimal transport maps, encodes the dualistic structure of statistical manifold. This general relation is described using the natural framework of $c$-divergence, a divergence defined by an optimal transport map. As a by-product, we obtain a new information-geometric interpretation of the MTW tensor. This connection sheds light on old and new aspects of information geometry. The dually flat geometry of Bregman divergence corresponds to the quadratic cost and the pseudo-Euclidean space, and the $L^{(α)}$-divergence introduced by Pal and the first author has constant sectional curvature in a sense to be made precise. In these cases we give a geometric interpretation of the information-geometric curvature in terms of the divergence between a primal-dual pair of geodesics.

研究动机与目标

• 通过伪黎曼几何建立最优传输与信息几何之间深层次的几何联系。
• 证明由最优传输映射导出的$c$-散度实现了统计流形的对偶结构。
• 将Ma-Trudinger-Wang（MTW）张量以新的信息几何视角解释为原-对偶测地线散度的曲率度量。
• 从曲率与伪黎曼结构的角度，拓展对已知散度（如Bregman散度和$L^{(\beta)}$-散度）的几何理解。
• 通过统一的几何框架，为最优传输与信息几何之间的结果转移奠定基础。

提出的方法

• 利用由代价函数$c$的交叉差值$\delta(p,q';p_0,q_0')$导出的伪黎曼度量$h = \frac{1}{2}\operatorname{Hess}\delta$。
• 将Kim-McCann几何框架应用于乘积空间$M \times M'$，其中$M$和$M'$为光滑流形。
• 将$c$-散度$\mathbf{D}[\gamma(s):\sigma(t)]$定义为在最优传输映射的图像$G$中，由曲线$\gamma(s)$和$\sigma(t)$参数化的概率分布之间的传输代价。
• 证明$c$-散度在$s=t=0$处的时间导数与未归一化的截面曲率$\overline{\mathrm{sec}}_x(X,Y)$成正比，从而将散度的动力学与曲率联系起来。
• 通过$L^{(\alpha)}$-散度和Bregman散度作为特例，表明在伪黎曼设置下截面曲率为常数。
• 推导出关系式$\overline{\mathrm{sec}}_x(X,Y) = 4\alpha h^2(X,Y)$，将曲率与度量$h$通过$c$-散度联系起来。

实验结果

研究问题

• RQ1 统计流形的对偶结构如何能在最优传输框架内被几何地编码？
• RQ2 Ma-Trudinger-Wang（MTW）张量在传输诱导散度的曲率方面具有何种信息几何意义？
• RQ3 由最优传输映射产生的$c$-散度能否被解释为信息几何中的典范散度？
• RQ4 已知的散度（如Bregman散度和$L^{(\alpha)}$-散度）如何从最优传输的伪黎曼几何中导出？
• RQ5 交叉差值$\delta$在统一最优传输与信息几何中扮演何种几何角色？

主要发现

• $c$-散度由最优传输映射导出，其自然地实现了统计流形的对偶结构，其中原生与对偶联络均源于传输几何。
• Ma-Trudinger-Wang（MTW）张量被几何地解释为原生测地线与其对偶之间散度的曲率，通过$c$-散度的时间导数测量。
• 对于$L^{(\alpha)}$-散度，伪黎曼交叉曲率为常数且等于$-4\alpha$，将散度的曲率与代价函数的对数结构联系起来。
• 在Bregman散度的情况下，$c$-散度对应于二次代价和伪欧几里得空间，且诱导度量$h$为平坦的。
• $c$-散度$\mathbf{D}[\gamma(s):\sigma(t)]$在$s=t=0$处的时间导数与未归一化的截面曲率$\overline{\mathrm{sec}}_x(X,Y)$成正比，比例系数涉及度量$h$。
• 对于对数代价，关系式$\overline{\mathrm{sec}}_x(X,Y) = 4\alpha h^2(X,Y)$成立，为$L^{(\alpha)}$-散度情形下曲率与$c$-散度之间提供了精确的几何联系。