[論文レビュー] On the difference between entropic cost and the optimal transport cost

Soumik Pal|arXiv (Cornell University)|May 29, 2019

Geometric Analysis and Curvature Flows参考文献 28被引用数 20

ひとこと要約

本稿は、正則化パrameter $ h \to 0^+ $ のとき、エントロピー的コスト $ K_h $ と $ \frac{1}{h} $ 倍の最適輸送コストの差の点별極限を確立する。この差は、輸送写像の局所的感度を捉えるリーマン計量体積測度を含む相対エントロピー項に収束することが示される。2次 Wasserstein 輸送の場合、この極限は $ \rho_1 $ と $ \rho_0 $ のエントロピーの差の半分に等しくなり、非局所的 Dirichlet 輸送へも拡張可能であり、距離コストがなくてもエントロピーにおける勾配流構造が示唆される。

ABSTRACT

Consider the Monge-Kantorovich problem of transporting densities $ρ_0$ to $ρ_1$ on $\mathbb{R}^d$ with a strictly convex cost function. A popular relaxation of the problem is the one-parameter family called the entropic cost problem. The entropic cost $K_h$, $h>0$, is significantly faster to compute and $h K_h$ is known to converge to the optimal transport cost as $h$ goes to zero. We are interested the rate of convergence. We show that the difference between $K_h$ and $1/h$ times the optimal cost of transport has a pointwise limit when transporting a compactly supported density to another that satisfies a few other technical restrictions. This limit is the relative entropy of $ρ_1$ with respect to a Riemannian volume measure on $\mathbb{R}^d$ that measures the local sensitivity of the transport map. For the quadratic Wasserstein transport, this relative entropy is exactly one half of the difference of entropies of $ρ_1$ and $ρ_0$. In that case we complement the results of Adams et al., Duong et al, and Erbar et al. who all use gamma convergence. More surprisingly, we demonstrate that this difference of two entropies (plus the cost) is also the limit for the Dirichlet transport introduced recently by Pal and Wong. The latter can be thought of as a multiplicative analog of the Wasserstein transport and corresponds to a non-local operator. It hints at an underlying gradient flow of entropy, in the sense of Jordan-Kinderlehrer-Otto, even when the cost function is not a metric. The proofs are based on Gaussian approximations to Schrödinger bridges as $h$ approaches zero.

研究の動機と目的

• 正則化パrameter $ h \to 0^+ $ のとき、エントロピー的コスト $ K_h $ が最適輸送コストに収束するレートを分析すること。
• 厳密に凸なコスト関数の文脈において、$ K_h - \frac{1}{h} \mathbb{W}_g(\rho_0, \rho_1) $ の点別極限を同定すること。
• 2次 Wasserstein コストの場合、この極限が $ \rho_1 $ と $ \rho_0 $ のエントロピーの差の半分に等しいことを示すこと。
• 非局所的 Dirichlet 輸送（Wasserstein 輸送の乗法的アナログ）へ結果を拡張し、同じ極限構造を示すこと。
• エントロピー正則化の漸近的挙動と勾配流構造との間の関係を確立すること、特にコスト関数が距離でない場合にも成立する。

提案手法

• $ h \to 0^+ $ のとき、Schrödinger ブリッジのガウス近似を用い、大偏差原理を活用してエントロピー的コストの極限を分析する。
• エントロピー的コスト $ K_h $ を、核 $ \exp(-\frac{1}{h}g(x-y)) $ を持つ Gibbs 測度である基準測度 $ \mu_h $ に対する結合 $ \nu $ の相対エントロピーとして定義する。
• 座標系を双対空間にとり、特に Dirichlet 輸送の場合に逆写像の下でエントロピー表現を変換するために、変数変換技術とヤコビアン行列式を適用する。
• エントロピーの漸近的展開を、$ \frac{1}{h} \mathbf{C}(\rho_0, \rho_1) $、対数補正項 $ \int \log Z_h(p) \rho_0(p) dp $、および基準測度の密度を含む項に分解することで得る。
• $ h \to 0^+ $ のとき $ \int \log Z_h(p) \rho_0(p) dp $ の極限を Lemma 4 を用いて計算し、相対エントロピーとヤコビアン行列式の形で表現する。
• Schrödinger ブリッジ問題の摂動的解析により極限を確立し、輸送写像の局所的感度を符号化するリーマン計量体積測度への収束を示す。

実験結果

リサーチクエスチョン

• RQ1 厳密に凸なコスト関数の下で、$ h \to 0^+ $ のとき $ K_h - \frac{1}{h} \mathbb{W}_g(\rho_0, \rho_1) $ の点別極限は何か？
• RQ2 この極限は、$ \mathbb{R}^d $ 上のリーマン計量体積測度に関するターゲット密度の相対エントロピーとどのように関係するか？
• RQ3 2次 Wasserstein コストの場合、この極限は $ \rho_1 $ と $ \rho_0 $ のエントロピーの差の半分に等しいか？
• RQ4 非局所的 Dirichlet 輸送（Wasserstein 輸送の乗法的アナログ）へ、同じ漸近的極限構造を拡張できるか？
• RQ5 この極限の存在が、コスト関数が距離でない場合でもエントロピー内の勾配流構造を示唆するか？

主な発見

• 差 $ K_h - \frac{1}{h} \mathbb{W}_g(\rho_0, \rho_1) $ は、最適輸送写像の局所的感度を定量化するリーマン計量体積測度を含む相対エントロピー項に点別収束する。
• 2次 Wasserstein コストの場合、極限は正確に $ \frac{1}{2} \left( \mathrm{Ent}(\rho_1) - \mathrm{Ent}(\rho_0) \right) $ に等しく、エントロピー差の半分に一致する。
• Pal と Wong が導入した Dirichlet 輸送に対しても、同じ漸近的極限構造が成り立つ。これは非局所作用素と乗法的輸送構造に対応する。
• この結果は、コスト関数が距離でない場合でも Jordan-Kinderlehrer-Otto の意味でのエントロピーの勾配流が存在することを示唆し、より深い幾何的構造を示唆する。
• 極限は、Schrödinger ブリッジへのガウス近似と大偏差原理を用いて導出され、補正項はヤコビアン行列式と基準測度の密度で表現される。
• 証明は、特に逆写像の下で、元の座標系と変換後の座標系におけるエントロピー表現を結びつけるために、双対空間における変数変換公式に依存している。