[论文解读] Optimal transport and information geometry

Ting‐Kam Leonard Wong, Jiaowen Yang|arXiv (Cornell University)|May 31, 2019

Markov Chains and Monte Carlo Methods被引用 3

一句话总结

本文通过证明由 Kim 和 McCann 提出的伪黎曼框架通过 $c$-散度编码了经典信息几何中的对偶结构，建立了最优传输与信息几何之间的深层联系。它揭示了 MTW 张量具有信息几何的解释，并通过伪黎曼形式化方法识别了典型散度，将二次型和 $L^{(\alpha)}$-散度统一于同一几何框架之下。

ABSTRACT

Optimal transport and information geometry both study geometric structures on spaces of probability distribution, and their connections have attracted more and more attention. In this paper we show that the pseudo-Riemannian framework of Kim and McCann, a geometric approach to the celebrated Ma-Trudinger-Wang condition in the regularity theory of optimal transport maps, encodes the dualistic structure in classical information geometry. This general relation is described using the natural framework of $c$-divergence, a divergence defined by an optimal transport map. As a by-product, we obtain a new information-geometric interpretation of the MTW tensor. This connection sheds light on old and new aspects of information geometry. The dually flat geometry of Bregman divergence corresponds to the quadratic cost and the pseudo-Euclidean space, and the $L^{(\alpha)}$-divergence introduced by Pal and the first author has constant sectional curvature in a sense to be made precise. We also study canonical divergences in information geometry and interpret them using the pseudo-Riemannian framework.

研究动机与目标

• 通过 Kim 和 McCann 的伪黎曼框架，建立最优传输与信息几何之间的几何桥梁。
• 证明经典信息几何中的对偶结构自然源自最优传输映射诱导的 $c$-散度。
• 通过伪黎曼形式化方法，为 MTW 张量提供新的信息几何解释。
• 利用伪黎曼框架解释信息几何中的典型散度，统一不同类型的散度。

提出的方法

• 利用 Kim 和 McCann 开发的伪黎曼几何框架，分析最优传输中的 Ma-Trudinger-Wang (MTW) 条件。
• 定义并应用 $c$-散度作为连接最优传输映射与信息几何散度的核心工具。
• 证明 Bregman 散度的对偶平坦几何在该框架中对应于二次型代价和伪欧几里得空间。
• 表明 Pal 与第一作者提出的 $L^{(\alpha)}$-散度在精确的几何意义下具有常曲率的截面曲率。
• 通过将 MTW 张量嵌入最优传输问题的伪黎曼结构中，分析其几何作用。
• 将该框架应用于信息几何中的典型散度，揭示其内在的几何起源。

实验结果

研究问题

• RQ1 最优传输的伪黎曼结构如何编码信息几何的对偶几何？
• RQ2 在最优传输框架中，MTW 张量的信息几何意义是什么？
• RQ3 在伪黎曼几何的背景下，Bregman 散度与 $L^{(\alpha)}$-散度如何从 $c$-散度中涌现？
• RQ4 信息几何中的典型散度能否通过最优传输和伪黎曼几何的视角系统地解释？
• RQ5 在 $L^{(\alpha)}$-散度的背景下，常曲率的几何意义是什么？

主要发现

• Kim 和 McCann 的伪黎曼框架通过 $c$-散度自然编码了经典信息几何中的对偶结构。
• MTW 张量被赋予新的信息几何解释，即作为伪黎曼传输空间中的曲率对象。
• Bregman 散度的对偶平坦几何被证明在该框架中对应于二次型代价和伪欧几里得几何。
• $L^{(\alpha)}$-散度被证明在明确定义的几何意义下具有常曲率的截面曲率，推广了其已知性质。
• 信息几何中的典型散度通过伪黎曼形式化方法得到系统解释，揭示了其内在的几何起源。