[論文レビュー] Quantitative stability of optimal transport maps and linearization of the 2-Wasserstein space

Quentin Mérigot, Alex Delalande+1 more|HAL (Le Centre pour la Communication Scientifique Directe)|Oct 14, 2019

Geometric Analysis and Curvature Flows参考文献 32被引用数 13

ひとこと要約

本稿では、固定された基準測度からの最適輸送写像を用いて、確率測度をヒルベルト空間に埋め込むための二重 Hölder 継続的埋め込みを提案する。これにより、測度データに対して機械学習アルゴリズムを直接適用可能となる。主な結果として、2- Wasserstein 距離に関して、Monge 写像の Hölder 穩定性が次元に依存しないことが示され、高次元データ解析におけるロバスト性と計算の実行可能性を保証する。

ABSTRACT

This work studies an explicit embedding of the set of probability measures into a Hilbert space, defined using optimal transport maps from a reference probability density. This embedding linearizes to some extent the 2-Wasserstein space, and enables the direct use of generic supervised and unsupervised learning algorithms on measure data. Our main result is that the embedding is (bi-)Hölder continuous, when the reference density is uniform over a convex set, and can be equivalently phrased as a dimension-independent Hölder-stability results for optimal transport maps.

研究の動機と目的

• 機械学習における応用を想定し、計算的に実行可能で、Wasserstein 幾何を保つ線形な確率測度の埋め込みを構築すること。
• 目的測度の摂動に対して最適輸送写像の定量的安定性バインディングを確立すること。
• 測度値データに対して標準的な教師ありおよび教師なし学習アルゴリズムを直接適用可能とするために、それらをヒルベルト空間に埋め込むこと。
• 統計的および数値的設定下での輸送写像の標本化および近似挙動の理論的基盤を提供すること。
• 環境次元に依存しない安定性を保証することで、高次元設定における最適輸送の適用範囲を拡張すること。

提案手法

• 半離散的最適輸送定式化を用い、各目的測度 μ に対して、固定された基準密度 ρ から μ へ輸送する凸ポテンシャルの勾配としての Monge 写像 Tμ を定義する。
• 埋め込みは μ ↦ Tμ ∈ L²(ρ, ℝᵈ) として定義され、非ヒルベルト空間である 2- Wasserstein 空間をヒルベルト空間に変換する。
• 安定性解析は、Brenier ポテンシャルの正則性および凸コスト関数下での最適輸送写像の構造に依存する。
• 主な理論的道具は Hölder 継続性の推定および輸送写像間の差の L² 範囲のバインディングである。
• 数値的妥当性は、輸送写像の標本近似および合成データおよび MNIST データセット上でのバリセンター計算を通じて確認された。
• 応用例として、埋め込み済み Monge 写像上での k-means++ を用いたクラスタリングおよび L²(ρ, ℝᵈ) 内での写像の線形結合によるバリセンター近似が含まれる。

実験結果

リサーチクエスチョン

• RQ1 最適輸送写像は、次元に依存しないヒルベルト空間への安定的で次元に依存しない埋め込みを提供できるか？
• RQ2 Monge 写像間の L² 範囲の差は、測度間の 2-Wasserstein 距離とどのように関係するか？
• RQ3 目的測度の摂動に対して、最適輸送写像の定量的安定性はいかほどか？
• RQ4 この埋め込みにより、測度データに対する標準的な機械学習アルゴリズムの効率的かつロバストな適用が可能になるか？
• RQ5 サンプル数 N が増加する際、Monge 写像埋め込みの標本複雑度はどのように振る舞うか？

主な発見

• Monge 写像埋め込みは、2-Wasserstein 距離に関して二重 Hölder 継続的であり、任意の p ≥ 1 に対して W₂(μ,ν) ≤ ||Tμ - Tν||_L²(ρ) ≤ C·W_p(μ,ν)^{2/15} を満たす。
• Hölder 指数 2/15 は環境次元 d に依存せず、次元フリーの安定性を提供する。
• 上界は、強い正則性仮定を要するか、d に対して指数関数的依存を示す既存の結果を改善している。
• 数値実験では、標本数 N が増加するにつれて、||Tμ - Tμ_N||_L²(ρ) の標本誤差が減少し、より正則な輸送写像では収束が良好であることが示された。
• 本手法により、埋め込み済み Monge 写像上での k-means++ を用いた MNIST 画像のクラスタリングが効果的に実行され、幾何的構造が保持された。
• L²(ρ, ℝᵈ) 内での写像の線形結合として得られるバリセンター近似は、幾何的情報を保持しており、計算的にも効率的である。