[論文レビュー] Pseudo-Riemannian geometry embeds information geometry in optimal transport

Ting‐Kam Leonard Wong, Jiaowen Yang|arXiv (Cornell University)|May 31, 2019

Geometric Analysis and Curvature Flows参考文献 47被引用数 8

ひとこと要約

本稿では、最適輸送と情報幾何の間の根本的な幾何的関係を確立する。KimとMcCannが開発した、最適輸送写像の正則性を分析するために考案された、擬リーマン幾何の枠組みが、統計多様体の双対的構造を自然に表現することを示している。主な貢献は、最適輸送写像を介して定義される$c$-発散が、情報幾何の双対的構造を実現することであり、Ma-Trudinger-Wang（MTW）テンソルが、原始的測地線と双対的測地線の間の発散の曲率測度として、新たな情報幾何的解釈を獲得することである。

ABSTRACT

Optimal transport and information geometry both study geometric structures on spaces of probability distributions. Optimal transport characterizes the cost-minimizing movement from one distribution to another, while information geometry originates from coordinate-invariant properties of statistical inference. Their connections and applications in statistics and machine learning have started to gain more attention. In this paper we give a new differential geometric connection between the two fields. Namely, the pseudo-Riemannian framework of Kim and McCann, a geometric perspective on the fundamental Ma-Trudinger-Wang (MTW) condition in the regularity theory of optimal transport maps, encodes the dualistic structure of statistical manifold. This general relation is described using the natural framework of $c$-divergence, a divergence defined by an optimal transport map. As a by-product, we obtain a new information-geometric interpretation of the MTW tensor. This connection sheds light on old and new aspects of information geometry. The dually flat geometry of Bregman divergence corresponds to the quadratic cost and the pseudo-Euclidean space, and the $L^{(α)}$-divergence introduced by Pal and the first author has constant sectional curvature in a sense to be made precise. In these cases we give a geometric interpretation of the information-geometric curvature in terms of the divergence between a primal-dual pair of geodesics.

研究の動機と目的

• 擬リーマン幾何を用いて、最適輸送と情報幾何の深い幾何的関係を確立すること。
• 最適輸送写像から導かれる$c$-発散が、統計多様体の双対的構造を実現することを示すこと。
• Ma-Trudinger-Wang（MTW）テンソルを、原始的・双対的測地線の発散の曲率測度として、新たな情報幾何的解釈を与えること。
• Bregman発散や$L^{(\beta)}$-発散といった既知の発散の幾何的理解を、曲率および擬リーマン構造の観点から拡張すること。
• 統一された幾何的枠組みを通じて、最適輸送と情報幾何の間で結果を相互に転送する基盤を構築すること。

提案手法

• コスト関数$c$のクロス差分$\delta(p,q';p_0,q_0')$から導かれる、$h = \frac{1}{2}\operatorname{Hess}\delta$という擬リーマン計量を用いる。
• 滑らかな多様体$M$と$M'$の積空間$M \times M'$に、Kim-McCannの幾何的枠組みを適用する。
• 最適輸送写像のグラフ$G$にパラメータ付けられた曲線$\gamma(s)$と$\sigma(t)$の間の輸送コストとして、$c$-発散$\mathbf{D}[\gamma(s):\sigma(t)]$を定義する。
• 時間微分$\frac{d}{dt}\mathbf{D}[\gamma(s):\sigma(t)]$が、$s=t=0$で非正規化された断面曲率$\overline{\mathrm{sec}}_x(X,Y)$に比例することを確立し、発散のダイナミクスと曲率を結びつける。
• 対数コストの場合に、$L^{(\alpha)}$-発散とBregman発散を特別なケースとして用い、擬リーマン設定における定数断面曲率を示す。
• 対数コストの場合に、関係式$\overline{\mathrm{sec}}_x(X,Y) = 4\alpha h^2(X,Y)$を導出し、曲率と$c$-発散の間の明確な幾何的関係を確立する。

実験結果

リサーチクエスチョン

• RQ1 統計多様体の双対的構造は、最適輸送の枠組み内でどのように幾何的に符号化可能か？
• RQ2 Ma-Trudinger-Wang（MTW）テンソルの情報幾何的意味は、輸送に起因する発散の曲率としてどのように解釈できるか？
• RQ3 最適輸送写像から生じる$c$-発散は、情報幾何における標準的発散と解釈可能か？
• RQ4 Bregman発散や$L^{(\alpha)}$-発散といった既知の発散は、最適輸送の擬リーマン幾何からどのように導かれるか？
• RQ5 クロス差分$\delta$は、最適輸送と情報幾何を統合する役割を果たす幾何的役割を果たすか？

主な発見

• $c$-発散は、最適輸送写像から導かれるが、その原始的・双対的接続が輸送幾何から自然に生じるため、統計多様体の双対的構造を実現する。
• Ma-Trudinger-Wang（MTW）テンソルは、時間微分$\frac{d}{dt}\mathbf{D}[\gamma(s):\sigma(t)]$を用いて、原始的測地線とその双対との間の発散の曲率として幾何的に解釈される。
• $L^{(\alpha)}$-発散の場合、擬リーマンのクロス曲率は定数であり、$-4\alpha$に等しくなる。これにより、発散の曲率がコスト関数の対数構造と関連づけられる。
• Bregman発散の場合は、$c$-発散が二次コストと擬ユークリッド空間に対応し、誘導される計量$h$は平坦である。
• 時間微分$\frac{d}{dt}\mathbf{D}[\gamma(s):\sigma(t)]$が$s=t=0$で、非正規化された断面曲率$\overline{\mathrm{sec}}_x(X,Y)$に比例し、その比例係数は計量$h$に依存する。
• 対数コストの場合に、関係式$\overline{\mathrm{sec}}_x(X,Y) = 4\alpha h^2(X,Y)$が成り立ち、$L^{(\alpha)}$-発散のケースにおいて、曲率と$c$-発散の間の明確な幾何的関係が確立される。