[論文レビュー] A Unifying Approach to Distributional Limits for Empirical Optimal Transport

Shayan Hundrieser, Marcel Klatt+2 more|arXiv (Cornell University)|Feb 25, 2022

Markov Chains and Monte Carlo Methods被引用数 13

ひとこと要約

この論文は、カントロヴィチ双対性と関数的デルタ法を活用することで、経験的最適輸送（OT）における中心極限定理（CLT）の統一的枠組みを確立する。経験的OTコストの弱収束を、ガウス過程の上界に導き、極限が母集団OT値を中心に分布することを示し、期待値を中心にしない有効な推論を可能にする。主な結果として、最小限のモーメントおよび正則性条件の下でのCLTが得られ、双対関数族のドンスカー性を満たす明示的な十分条件が特定される。

ABSTRACT

We provide a unifying approach to central limit type theorems for empirical optimal transport (OT). In general, the limit distributions are characterized as suprema of Gaussian processes. We explicitly characterize when the limit distribution is centered normal or degenerates to a Dirac measure. Moreover, in contrast to recent contributions on distributional limit laws for empirical OT on Euclidean spaces which require centering around its expectation, the distributional limits obtained here are centered around the population quantity, which is well-suited for statistical applications. At the heart of our theory is Kantorovich duality representing OT as a supremum over a function class $\mathcal{F}_{c}$ for an underlying sufficiently regular cost function $c$. In this regard, OT is considered as a functional defined on $\ell^{\infty}(\mathcal{F}_{c})$ the Banach space of bounded functionals from $\mathcal{F}_{c}$ to $\mathbb{R}$ and equipped with uniform norm. We prove the OT functional to be Hadamard directional differentiable and conclude distributional convergence via a functional delta method that necessitates weak convergence of an underlying empirical process in $\ell^{\infty}(\mathcal{F}_{c})$. The latter can be dealt with empirical process theory and requires $\mathcal{F}_{c}$ to be a Donsker class. We give sufficient conditions depending on the dimension of the ground space, the underlying cost function and the probability measures under consideration to guarantee the Donsker property. Overall, our approach reveals a noteworthy trade-off inherent in central limit theorems for empirical OT: Kantorovich duality requires $\mathcal{F}_{c}$ to be sufficiently rich, while the empirical processes only converges weakly if $\mathcal{F}_{c}$ is not too complex.

研究の動機と目的

• 経験的最適輸送コストの分布極限を扱う一般的で統一的なアプローチの開発。
• 極限分布が正規分布に中心化されるか、あるいはデルタ測度に退化する条件の特定。
• 期待値ではなく母集団OT値を中心にした中心極限定理の確立により、統計的適用性の向上。
• 双対関数族のドンスカー性を保証する、基底空間、コスト関数、確率測度に関する十分条件の同定。
• カントロヴィチ双対性に要請される双対関数族の豊かさと、経験過程の弱収束に要請される複雑さの間のトレードオフの解明。

提案手法

• カントロヴィチ双対性を用いてOTを関数族 $\mathcal{F}_c$ 上での上界として表現し、OTを $\ell^\infty(\mathcal{F}_c)$ 上の汎関数として扱う。
• OT汎関数がハダールド方向微分可能であることを証明し、関数的デルタ法の適用を可能にする。
• $\mathcal{F}_c$ に対するドンスカー性の確認により、$\ell^\infty(\mathcal{F}_c)$ 内での経験過程の弱収束を確立する。
• ヴァン・ドール・ヴァートとウェルナー（1996）による方法を用い、$\varepsilon$ に関して対数的またはべき乗則的であるメトリックエントロピーの境界を用いて、ドンスカークラスの積分可能性条件を検証する。
• 関数的デルタ法と一様ノルム位相における経験過程の弱収束を組み合わせることで、CLTを導出する。
• 具体的な設定の分析：半離散OT、1次元多様体上の $\alpha$-ホルダー型コスト、2次元／3次元多様体上の $C^2$ コスト。これにより明示的な十分条件を導出する。

実験結果

リサーチクエスチョン

• RQ1 経験的OTコストが非退化極限に分布収束する条件は何か？
• RQ2 極限分布が期待値ではなく母集団OT値を中心に分布する条件は何か？
• RQ3 基底空間およびコスト関数に要請される正則性および幾何的条件は何か？ これにより双対関数族のドンスカー性が保証されるか？
• RQ4 双対関数族 $\mathcal{F}_c$ の複雑さと、経験過程の弱収束との間のトレードオフはどのように働くか？
• RQ5 どのような設定で極限分布がデルタ測度に退化し、どのような場合に非退化ガウス過程となるか？

主な発見

• 経験的OTコストの極限分布は、双対関数族 $\mathcal{F}_c$ によってインデックスづけられた中心化ガウス過程の上界として特徴づけられる。
• CLTは母集団OT値を中心に分布するが、これは期待値を中心に分布させるよりも統計的推論に適している。
• $s$ 次元のコンact部分多様体（$s \leq 3$）および $\alpha$-ホルダー型または $C^2$ コスト関数に対して、弱い正則性条件下で $\mathcal{F}_c$ のドンスカー性が成立する。
• 半離散設定では、$\mathcal{F}_c$ のメトリックエントロピーが $\varepsilon^{-1}$ に関して対数的に増加し、ドンスカー性が保証される。
• $s=1$ および $\alpha$-ホルダー型コスト（$\alpha \in (1/2,1]$）に対しては、エントロピーの増加が $\varepsilon^{-s/\alpha}$ に比例し、依然として積分可能である。
• $s=2$ または $3$ および $C^2$ コストに対しては、エントロピーの増加が $\varepsilon^{-s/2}$ に比例し、これも積分可能であるため、経験過程の弱収束が保証される。