[論文レビュー] Minimax convergence rate for estimating the Wasserstein barycenter of random measures on the real line

Jérémie Bigot, Raúl Gouet+2 more|arXiv (Cornell University)|Jun 13, 2016

Geometric Analysis and Curvature Flows参考文献 14被引用数 3

ひとこと要約

本稿は、各測度からの離散的標本のみが観測可能である場合に、実数直線上の確率測度の Wasserstein バリオセントルを推定する際のミニマックス収束速度を確立する。$ n $（測度の数）と $ \min_i p_i $（最小標本サイズ）が同時に無限大に発散する共同漸近的枠組みにおいて、滑らかでないおよび滑らかな経験的 Wasserstein バリオセントルの両方の最適収束速度を導出し、Wasserstein 距離におけるミニマックス最適性を証明する。

ABSTRACT

This paper is focused on the statistical analysis of probability measures $ν_{1},\ldots,ν_{n}$ on $\mathbb{R}$ that can be viewed as independent realizations of an underlying stochastic process. We consider the situation of practical importance where the random measures $ν_{i}$ are absolutely continuous with densities $f_{i}$ that are not directly observable. In this case, instead of the densities, we have access to datasets of real random variables $(X_{i,j})_{1 \leq i \leq n; \; 1 \leq j \leq p_{i} }$ organized in the form of $n$ experimental units, such that $X_{i,1},\ldots,X_{i,p_{i}}$ are iid observations sampled from a random measure $ν_{i}$ for each $1 \leq i \leq n$. In this setting, we focus on first-order statistics methods for estimating, from such data, a meaningful structural mean measure. For the purpose of taking into account phase and amplitude variations in the observations, we argue that the notion of Wasserstein barycenter is a relevant tool. The main contribution of this paper is to characterize the rate of convergence of a (possibly smoothed) empirical Wasserstein barycenter towards its population counterpart in the asymptotic setting where both $n$ and $\min_{1 \leq i \leq n} p_{i}$ may go to infinity. The optimality of this procedure is discussed from the minimax point of view with respect to the Wasserstein metric. We also highlight the connection between our approach and the curve registration problem in statistics. Some numerical experiments are used to illustrate the results of the paper on the convergence rate of empirical Wasserstein barycenters.

研究の動機と目的

• 離散的な i.i.d. 標本のみが利用可能な確率測度の Wasserstein バリオセントル推定器のミニマックス収束速度を特定すること。
• 両方の $ n $ と $ \min_i p_i $ が発散する漸近的枠組みにおいて、標本データからの非パラメトリック推定器の統計的最適性を評価すること。
• Wasserstein バリオセントル推定と関数データ解析における曲線登録問題との間の関係を確立すること。
• 滑らかでないおよび滑らかな経験的バリオセントルの収束速度とミニマックス最適性を比較すること。

提案手法

• 観測された標本からの経験的測度に基づく滑らかでない経験的 Wasserstein バリオセントルと、カーネル密度推定を用いて元の密度を回復した後、バリオセントルを計算する滑らかな経験的バリオセントルの2つの非パラメトリック推定器を提案する。
• 両推定器の真の母集団バリオセントル $ \nu_0 $ との期待二乗 Wasserstein 距離の収束を分析する。
• Kullback-Leibler 発散と Markov の不等式に基づく二仮説検定フレームワークを用いて、推定精度の根本的限界を示すミニマックス下界を導出する。
• ここでは有限個の仮説（本稿では2つ）への還元スキームを適用し、Tsybakov (2009) の手法を用いてミニマックスリスクの下界を導出する。
• Wasserstein 距離 $ d_W $ を二次的コスト関数を用いて定義し、空間 $ W_2(\mathbb{R}) $ における Fréchet 平均としてバリオセントルを定義することで、幾何的および確率的整合性を保証する。
• 適切な正則性条件のもとで、収束速度が $ n^{-1/2} $ であることを示す。

実験結果

リサーチクエスチョン

• RQ1 離散的標本のみが観測可能な場合に、実数直線上の確率測度の Wasserstein バリオセントルを推定する際の最適収束速度は何か？
• RQ2 滑らかでないおよび滑らかな経験的 Wasserstein バリオセントルの収束速度は、$ n $ と $ \min_i p_i $ がともに大きい共同漸近的枠組みにおいてどのように比較されるか？
• RQ3 提案された経験的バリオセントル推定器は Wasserstein 距離に関してミニマックス最適か？
• RQ4 Wasserstein バリオセントル枠組みは、確率的測度の位相的変動と振幅的変動をどの程度適切に扱えるか？
• RQ5 本手法は関数データ解析における曲線登録問題とどのように関連しているか？

主な発見

• 推定器と真のバリオセントルとの間の $ n^{-1/2} $ スケーリング Wasserstein 距離のミニマックス下界は、元の測度の正則性に依存する正の定数で下から抑えられている。
• 滑らかでない経験的 Wasserstein バリオセントルは、適切なモーメントおよび密度正則性条件のもとでミニマックス収束速度 $ n^{-1/2} $ を達成する。
• 滑らかな経験的 Wasserstein バリオセントルも同様にミニマックス速度 $ n^{-1/2} $ を達成するが、カーネルスムージング段階におけるバンド幅の選択に依存する。
• Kullback-Leibler 発散が有界な二仮説検定問題を構築し、Tsybakov の不等式を適用することで、収束速度がミニマックス意味で最適であることが確認された。
• Wasserstein バリオセントルが位相的および振幅的変動を適切に扱う自然なツールであることが示され、この手法が曲線登録問題と関連していることが明らかになった。
• 数値実験により理論的収束速度が確認され、さまざまな標本化枠組みにおいてもバリオセントル推定器のロバスト性が示された。