[論文レビュー] Weak limits of entropy regularized Optimal Transport; potentials, plans and divergences

Alberto González-Sanz, Jean–Michel Loubes+1 more|arXiv (Cornell University)|Jul 15, 2022

Probabilistic and Robust Engineering Design被引用数 8

ひとこと要約

この論文は、正則化された最適輸送解の弱収束を確立し、 Hölder空間におけるSinkhornポテンシャルおよびカップリングの中心極限定理（ガウス過程としての収束）を導出し、帰無仮説および対立仮説の下でのSinkhorn散発の極限分布を同定する。また、正則化カップリングの弱極限に関する予想を解決し、正則化最適輸送を用いた統計的推論の基盤を提供する。

ABSTRACT

This work deals with the asymptotic distribution of both potentials and couplings of entropic regularized optimal transport for compactly supported probabilities in $\R^d$. We first provide the central limit theorem of the Sinkhorn potentials -- the solutions of the dual problem -- as a Gaussian process in $\Cs$. Then we obtain the weak limits of the couplings -- the solutions of the primal problem -- evaluated on integrable functions, proving a conjecture of \cite{ChaosDecom}. In both cases, their limit is a real Gaussian random variable. Finally we consider the weak limit of the entropic Sinkhorn divergence under both assumptions $H_0:\ { m P}={ m Q}$ or $H_1:\ { m P} eq{ m Q}$. Under $H_0$ the limit is a quadratic form applied to a Gaussian process in a Sobolev space, while under $H_1$, the limit is Gaussian. We provide also a different characterisation of the limit under $H_0$ in terms of an infinite sum of an i.i.d. sequence of standard Gaussian random variables. Such results enable statistical inference based on entropic regularized optimal transport.

研究の動機と目的

• Empirical measures を真の分布の代わりに用いた場合のSinkhornポテンシャル（双対解）の弱極限を、Hölder空間で導出し、ガウス過程への収束を示す。
• 可積分関数に対するエンタロピー正則化カップリング（プライマル解）の弱極限を確立し、Harchaouiら（2020）の予想を確認する。
• 帰無仮説（P = Q）および対立仮説（P ≠ Q）の下でのエンタロピー正則化Sinkhorn散発の漸近的分布を同定する。
• 独立同一分布に従う標準正規乱数を用いた、帰無仮説下での極限分布の新しい無限級数表現を提供する。

提案手法

• 空間 $\mathcal{C}^s(\Omega)$ におけるSinkhornポテンシャルの中心極限定理を導出し、それがガウス過程に弱収束することを示す。
• 関数的デルタ法と非線形作用素のFréchet微分可能性を用いて、ポテンシャルの収束を介してカップリングの極限を分析する。
• Donsker性およびエントロピーに基づくバインディングを用いて、Hölderノルムにおける経験過程を制御する。
• ポテンシャル差の $\mathcal{C}^s$-ノルムを含む安定性バインディングを用いて、有界連続関数へのエンタロピー正則化カップリングの弱収束を確立する。
• 帰無仮説下でのSinkhorn散発の極限分布を、Sobolev空間におけるガウス過程の二次形式として同定する。
• 帰無仮説下での極限分布を、独立同一分布に従う標準正規乱数の無限和としての別表現を提供する。

実験結果

リサーチクエスチョン

• RQ1 真の分布の代わりに経験測度を用いた場合、Sinkhornポテンシャル（双対解）の弱極限は何か？
• RQ2 可積分関数への評価において、エンタロピー正則化カップリングはガウス過程に弱収束するか？これはHarchaoui, Liu, Pal（2020）の予想を確認する。
• RQ3 帰無仮説 $P = Q$ の下で、エンタロピー正則化Sinkhorn散発の漸近的分布は何か？
• RQ4 対立仮説 $P \neq Q$ の下で、Sinkhorn散発の極限分布はどのように振る舞うか？
• RQ5 帰無仮説下でのSinkhorn散発の極限分布を、独立同一分布に従う標準正規乱数の無限和として表現できるか？

主な発見

• Sinkhornポテンシャルは $\mathcal{C}^s(\Omega)$ でガウス過程に弱収束し、双対解に対する中心極限定理を確立する。
• 可積分関数への評価において、エンタロピー正則化カップリングはガウス過程に弱収束し、Harchaoui, Liu, Pal（2020）の予想を確認する。
• 帰無仮説 $P = Q$ の下で、Sinkhorn散発の極限分布はSobolev空間におけるガウス過程の二次形式である。
• 対立仮説 $P \neq Q$ の下で、Sinkhorn散発の極限分布はガウス分布である。
• 帰無仮説下でのSinkhorn散発の極限分布は、独立同一分布に従う標準正規乱数の無限和としての別表現を有する。
• ポテンシャルおよびカップリングの収束速度は、$\mathcal{C}^s$ 空間における非線形作用素のFréchet微分可能性に依存する安定性バインディングにより制御される。