[論文レビュー] Asymptotic distribution and convergence rates of stochastic algorithms for entropic optimal transportation between probability measures

Bernard Bercu, Jérémie Bigot|arXiv (Cornell University)|Dec 21, 2018

Risk and Portfolio Optimization参考文献 29被引用数 15

ひとこと要約

本稿では、i.i.d. データから得られるサンプルを用いて、エントロピー正則化 Wasserstein 距離（Sinkhorn 散発）の推定に向けた Robbins-Monro ストキャスティックアルゴリズムを提案する。離散的および半離散的設定において、強い凹性がなくても一般な条件下で、確率的収束、漸近正規性、期待超過リスクの収束速度の向上を確立する。

ABSTRACT

This paper is devoted to the stochastic approximation of entropically regularized Wasserstein distances between two probability measures, also known as Sinkhorn divergences. The semi-dual formulation of such regularized optimal transportation problems can be rewritten as a non-strongly concave optimisation problem. It allows to implement a Robbins-Monro stochastic algorithm to estimate the Sinkhorn divergence using a sequence of data sampled from one of the two distributions. Our main contribution is to establish the almost sure convergence and the asymptotic normality of a new recursive estimator of the Sinkhorn divergence between two probability measures in the discrete and semi-discrete settings. We also study the rate of convergence of the expected excess risk of this estimator in the absence of strong concavity of the objective function. Numerical experiments on synthetic and real datasets are also provided to illustrate the usefulness of our approach for data analysis.

研究の動機と目的

• 一つの分布からの i.i.d. サンプルを用いて、再帰的かつデータ駆動型の Sinkhorn 散発推定量を構築すること。
• 半離散的および離散的設定において、提案された推定量の確率的収束および漸近正規性を確立すること。
• 目的関数が強い凹性を持たない場合の、期待超過リスクの収束速度を分析すること。
• 推定量の漸近的分散を再帰的に推定する手法を提供し、統計的推論を可能にすること。
• 理論的結果を正則化なしの極限（ε = 0）に拡張し、合成および実データセットを用いて手法の有効性を検証すること。

提案手法

• エントロピー正則化最適輸送の半双対形式を期待値最大化問題に再定式化する：$ W_{\nu}(\nu,\nu) = \max_v \mathbb{E}[h_\varepsilon(X,v)] $、ここで $ X \sim \mu $。
• Robbins-Monro ストキャスティック勾配法を実装する：$ \widehat{V}_{n+1} = \widehat{V}_n + \gamma_{n+1} \nabla_v h_\varepsilon(X_{n+1}, \widehat{V}_n) $、最大値 $ v^* $ を再帰的に推定する。
• Sinkhorn 散発のための新しい再帰的推定量 $ \widehat{W}_n = \frac{1}{n} \sum_{k=1}^n h_\varepsilon(X_k, \widehat{V}_{k-1}) $ を定義する。
• マルティングル・ディファレンス列と Lyapunov 型不等式を用いて、推定誤差 $ \Delta_n = \| \widehat{V}_n - v^* \|^2 $ の $ L^2 $ ノルムを制御する。
• Cauchy-Schwarz 不等式および Markov 不等式を活用し、$ \mathbb{E}[\Delta_n] $ と $ \mathbb{E}[\Delta_n^2] $ を含む再帰的不等式を用いて収束を確立する。
• 漸近的分散 $ \sigma^2_\varepsilon(\mu,\nu) = \mathbb{E}[h_\varepsilon^2(X,v^*)] - W_\varepsilon^2(\mu,\nu) $ を導出し、再帰的に推定可能であることを示す。

実験結果

リサーチクエスチョン

• RQ1 Sinkhorn 散発推定のための Robbins-Monro アルゴリズムは、真の散発に確率的に収束するか？
• RQ2 再帰的推定量 $ \widehat{W}_n $ の漸近分布は何か？統計的推論に利用可能か？
• RQ3 目的関数が強い凹性を持たない場合、期待超過リスク $ H_\varepsilon(v^*) - \mathbb{E}[\widehat{W}_n] $ の収束速度はどの程度か？
• RQ4 推定量の漸近的分散を再帰的に一貫して推定可能か？
• RQ5 正則化なしの極限（ε → 0）における収束速度は、正則化ありの場合と比較してどうなるか？

主な発見

• 再帰的推定量 $ \widehat{W}_n $ は $ n \to \infty $ のとき、真の Sinkhorn 散発 $ W_\varepsilon(\mu,\nu) $ に確率的に収束する。
• 推定量は漸近正規性を満たす：$ \sqrt{n}(\widehat{W}_n - W_\varepsilon(\mu,\nu)) \xrightarrow{d} \mathcal{N}(0, \sigma^2_\varepsilon(\mu,\nu)) $、ここで $ \sigma^2_\varepsilon(\mu,\nu) = \mathbb{E}[h_\varepsilon^2(X,v^*)] - W_\varepsilon^2(\mu,\nu) $。
• 期待超過リスクの収束速度は $ 1/\sqrt{n} $ よりも速く、$ 2/3 < c < 1 $ のとき $ \mathbb{E}[\Delta_n] = \mathcal{O}(n^{-(2c-1)}) $ のオーダーで減少する。これは標準的な $ 1/\sqrt{n} $ の収束速度を改善する。
• 漸近的分散 $ \sigma^2_\varepsilon(\mu,\nu) $ は再帰的に一貫して推定可能であり、信頼区間や仮説検定の実行が可能になる。
• 強い凹性がなくても収束速度解析が成立し、特に高次元または特異的設定において顕著な利点を示す。
• 合成および実データセットを用いた数値実験により、推定量の安定性、精度、およびデータ解析タスクにおける実用的価値が確認された。