[論文レビュー] Minimax estimation of discontinuous optimal transport maps: The semi-discrete case

Aram-Alexandre Pooladian, Vincent Divol+1 more|arXiv (Cornell University)|Jan 26, 2023

Markov Chains and Monte Carlo Methods被引用数 5

ひとこと要約

本稿では、標的測度が離散的な半離散設定における不連続な最適輸送写像のミニマックス最適推定量を提案する。エントロピー最適輸送を用いて、次元に依存しない $ n^{-1/2} $ の収束速度を確立し、次元の呪いと従来手法の有限標本制限を克服する。これは、輸送写像が不連続であっても成立する。

ABSTRACT

We consider the problem of estimating the optimal transport map between two probability distributions, $P$ and $Q$ in $\mathbb R^d$, on the basis of i.i.d. samples. All existing statistical analyses of this problem require the assumption that the transport map is Lipschitz, a strong requirement that, in particular, excludes any examples where the transport map is discontinuous. As a first step towards developing estimation procedures for discontinuous maps, we consider the important special case where the data distribution $Q$ is a discrete measure supported on a finite number of points in $\mathbb R^d$. We study a computationally efficient estimator initially proposed by Pooladian and Niles-Weed (2021), based on entropic optimal transport, and show in the semi-discrete setting that it converges at the minimax-optimal rate $n^{-1/2}$, independent of dimension. Other standard map estimation techniques both lack finite-sample guarantees in this setting and provably suffer from the curse of dimensionality. We confirm these results in numerical experiments, and provide experiments for other settings, not covered by our theory, which indicate that the entropic estimator is a promising methodology for other discontinuous transport map estimation problems.

研究の動機と目的

• 輸送写像が不連続である場合の最適輸送写像の統計的推定を扱う。これは、従来の理論がリプシッツ連続性や滑らかさの仮定を必要としているため、その範囲外に位置する。
• 標的測度が有限個の点に離散的に分布する半離散設定において、エントロピー最適輸送に基づく推定量の有限標本性能を分析すること。
• 最小限の正則性仮定の下で、推定量の収束速度が次元に依存しないミニマックス最適性を確立すること。
• 1-NNのような標準的推定量が、この設定において次元の呪いに直面し、有限標本保証を欠いていることを示すこと。
• エントロピーOTを不連続な輸送写像推定に用いる理論的根拠を提供し、理論的枠組みを超えたロバストネスを数値的に検証すること。

提案手法

• エントロピー最適輸送に基づく計算効率の良い推定量を提案する。これは[58]で導入され、[55]で分析されたものであり、半離散設定に適応する。
• 出発測度 $ P $ と標的原子 $ y_j $ にやや弱い正則性条件を課した下で、$ L^2(P) $-ノルムにおける収束速度 $ n^{-1/2} $ を確立する。この収束速度は次元 $ d $ に依存しない。
• 被覆集合と体積推定に基づく幾何的議論を用いて、エントロピー推定量における正しい割り当ての確率を下から抑え、集中不等式を活用する。
• ヨングの不等式を用い、エントロピー積分の境界を用いて、経験的測度近似における確率的誤差を制御する。
• $ \chi^2 $-発散を用いた測度の変更の議論により、経験的標的測度と真の離散測度との乖離を制御する。
• 幾何的分離と体積比較の議論を用いて、推定量が正しく動作する確率が高い領域 $ S $ を構築し、$ n^{-1/2} $ の収束速度を導出する。

Figure 1: An illustration of a semi-discrete optimal transport map. The support of $P$ , the whole rectangle, is partitioned into regions, each of which is transported to one of the atoms of the discrete target measure $Q$ . The resulting map is discontinuous at the boundaries of each cell.

実験結果

リサーチクエスチョン

• RQ1 計算的に効率の良い推定量は、半離散設定における不連続な最適輸送写像に対してミニマックス最適な収束速度を達成できるか？
• RQ2 輸送写像が不連続であっても、エントロピー最適輸送推定量は有限標本の統計的保証を維持するか？
• RQ3 半離散設定における不連続な輸送写像の推定において、最適な収束速度は何か？また、これは次元に依存しないか？
• RQ4 1-NNのような古典的手法と比較して、エントロピー推定量は統計的効率性と次元へのロバストネスにおいて優れているか？
• RQ5 エントロピーOTの理論的保証を、滑らかさを仮定する範囲を超えて、半離散設定における不連続な写像にまで拡張できるか？

主な発見

• エントロピー最適輸送推定量は、半離散設定において、次元 $ d $ に依存しない $ L^2(P) $-ノルムでのミニマックス最適収束速度 $ n^{-1/2} $ を達成する。
• 収束速度 $ n^{-1/2} $ は、最適輸送写像が不連続であっても達成可能であり、これは従来の推定量が要求する滑らかさの仮定を満たさない場合に有効である。
• 1-Nearest Neighbor推定量は次元の呪いに直面し、収束速度が $ n^{-2/d} $ にまで低下する。$ d > 4 $ の場合、急速に劣化する。この設定では有限標本保証を欠く。
• 理論的分析により、エントロピー推定量が不連続性に対してロバストであり、統計的効率性を維持することが確認され、理論的仮定を超えた数値実験でもそのロバストネスが裏付けられた。
• 経験的標的測度と真の離散測度との $ \chi^2 $-発散の期待値は $ \frac{J-1}{n} $ であり、これは経験過程における推定誤差を制御するために用いられる。
• 体積が $ \gtrsim n^{-1/d} $ であるような集合 $ S $ の幾何的構築により、推定量が高確率で正しい点を割り当てるようになり、これにより $ n^{-1/2} $ の収束速度が導出可能となる。

Figure 2: Left: $\hat{T}_{\varepsilon}$ versus $\hat{T}_{\text{1NN}}$ for $J=2$ and $d=10$ . Right: $\hat{T}_{\varepsilon}$ versus $\hat{T}_{\text{1NN}}$ for $J=10$ and $d=50$ .