[论文解读] Asymptotic distribution and convergence rates of stochastic algorithms for entropic optimal transportation between probability measures

Bernard Bercu, Jérémie Bigot|arXiv (Cornell University)|Dec 21, 2018

Risk and Portfolio Optimization参考文献 29被引用 15

一句话总结

本文提出了一种 Robbins-Monro 随机算法，用于使用独立同分布样本估计概率测度之间的 Sinkhorn 散度——即熵正则化的 Wasserstein 距离。在离散和半离散设置下，于一般条件下，即使在缺乏强凹性时，也建立了几乎必然收敛性、渐近正态性以及改进的期望超额风险收敛速率。

ABSTRACT

This paper is devoted to the stochastic approximation of entropically regularized Wasserstein distances between two probability measures, also known as Sinkhorn divergences. The semi-dual formulation of such regularized optimal transportation problems can be rewritten as a non-strongly concave optimisation problem. It allows to implement a Robbins-Monro stochastic algorithm to estimate the Sinkhorn divergence using a sequence of data sampled from one of the two distributions. Our main contribution is to establish the almost sure convergence and the asymptotic normality of a new recursive estimator of the Sinkhorn divergence between two probability measures in the discrete and semi-discrete settings. We also study the rate of convergence of the expected excess risk of this estimator in the absence of strong concavity of the objective function. Numerical experiments on synthetic and real datasets are also provided to illustrate the usefulness of our approach for data analysis.

研究动机与目标

• 开发一种基于一个分布的独立同分布样本的递归、数据驱动的 Sinkhorn 散度估计器，采用随机逼近方法。
• 在半离散和离散设置下，建立所提估计器的几乎必然收敛性和渐近正态性。
• 分析当目标函数不具强凹性时，期望超额风险的收敛速率。
• 提供一种递归方法，用于估计估计器的渐近方差，从而支持统计推断。
• 将理论结果扩展至无正则化情形（ε = 0），并在合成与真实数据集上验证该方法。

提出的方法

• 将熵正则最优输运的半对偶公式重写为期望最大化问题：$ W_{\nu}(\nu,\nu) = \max_v \mathbb{E}[h_\varepsilon(X,v)] $，其中 $ X \sim \mu $。
• 实施 Robbins-Monro 随机梯度算法：$ \widehat{V}_{n+1} = \widehat{V}_n + \gamma_{n+1} \nabla_v h_\varepsilon(X_{n+1}, \widehat{V}_n) $，以递归估计最大化器 $ v^* $。
• 定义一个新的递归估计器 $ \widehat{W}_n = \frac{1}{n} \sum_{k=1}^n h_\varepsilon(X_k, \widehat{V}_{k-1}) $，用于 Sinkhorn 散度。
• 利用鞅差序列和 Lyapunov 型不等式，控制估计误差的 $ L^2 $-范数 $ \Delta_n = \| \widehat{V}_n - v^* \|^2 $。
• 通过涉及 $ \mathbb{E}[\Delta_n] $ 和 $ \mathbb{E}[\Delta_n^2] $ 的递归不等式建立收敛性，利用 Cauchy-Schwarz 不等式和 Markov 不等式。
• 推导渐近方差 $ \sigma^2_\varepsilon(\mu,\nu) = \mathbb{E}[h_\varepsilon^2(X,v^*)] - W_\varepsilon^2(\mu,\nu) $，该方差可递归估计。

实验结果

研究问题

• RQ1 Robbins-Monro 算法在 Sinkhorn 散度估计中是否几乎必然收敛到真实散度？
• RQ2 递归估计器 $ \widehat{W}_n $ 的渐近分布为何？是否可用于统计推断？
• RQ3 当目标函数不具强凹性时，期望超额风险 $ H_\varepsilon(v^*) - \mathbb{E}[\widehat{W}_n] $ 的衰减速率如何？
• RQ4 估计器的渐近方差能否以递归方式一致估计？
• RQ5 与正则化情形相比，未正则化极限（ε → 0）下的收敛速率表现如何？

主要发现

• 递归估计器 $ \widehat{W}_n $ 几乎必然收敛到真实 Sinkhorn 散度 $ W_\varepsilon(\mu,\nu) $，当 $ n \to \infty $ 时。
• 估计器满足渐近正态性：$ \sqrt{n}(\widehat{W}_n - W_\varepsilon(\mu,\nu)) \xrightarrow{d} \mathcal{N}(0, \sigma^2_\varepsilon(\mu,\nu)) $，其中 $ \sigma^2_\varepsilon(\mu,\nu) = \mathbb{E}[h_\varepsilon^2(X,v^*)] - W_\varepsilon^2(\mu,\nu) $。
• 期望超额风险的衰减速率快于 $ 1/\sqrt{n} $，其速率满足 $ \mathbb{E}[\Delta_n] = \mathcal{O}(n^{-(2c-1)}) $，其中 $ 2/3 < c < 1 $，优于标准的 $ 1/\sqrt{n} $ 速率。
• 渐近方差 $ \sigma^2_\varepsilon(\mu,\nu) $ 可以以递归方式一致估计，从而支持置信区间和假设检验。
• 即使在缺乏强凹性的情况下，收敛速率分析依然成立，这在高维或奇异情形下具有关键优势。
• 在合成与真实数据集上的数值实验验证了估计器在数据分析任务中的稳定性、准确性与实际效用。