[论文解读] Stochastic Optimization for Regularized Wasserstein Estimators

Marin Ballu, Quentin Berthet+1 more|arXiv (Cornell University)|Feb 20, 2020

Markov Chains and Monte Carlo Methods参考文献 39被引用 9

一句话总结

该论文提出了一种用于正则化Wasserstein估计器的随机优化算法，通过利用对偶公式和直接从样本中计算的随机梯度步骤，实现了每步的次线性时间复杂度，从而消除了每一步都需要求解辅助优化问题的需求。该方法实现了高效、联合的估计与计算，并具有理论收敛保证，在合成数据上表现出良好的实际性能。

ABSTRACT

Optimal transport is a foundational problem in optimization, that allows to compare probability distributions while taking into account geometric aspects. Its optimal objective value, the Wasserstein distance, provides an important loss between distributions that has been used in many applications throughout machine learning and statistics. Recent algorithmic progress on this problem and its regularized versions have made these tools increasingly popular. However, existing techniques require solving an optimization problem to obtain a single gradient of the loss, thus slowing down first-order methods to minimize the sum of losses, that require many such gradient computations. In this work, we introduce an algorithm to solve a regularized version of this problem of Wasserstein estimators, with a time per step which is sublinear in the natural dimensions of the problem. We introduce a dual formulation, and optimize it with stochastic gradient steps that can be computed directly from samples, without solving additional optimization problems at each step. Doing so, the estimation and computation tasks are performed jointly. We show that this algorithm can be extended to other tasks, including estimation of Wasserstein barycenters. We provide theoretical guarantees and illustrate the performance of our algorithm with experiments on synthetic data.

研究动机与目标

• 解决一阶方法在最小化基于Wasserstein损失时的计算瓶颈问题，这些方法需要在每一步计算梯度时求解昂贵的优化问题。
• 开发一种随机优化方案，能够直接从样本中计算梯度，而无需在每次迭代中求解额外的优化问题。
• 提供在T步后由该算法生成的估计器的理论收敛界。
• 将该方法扩展到相关问题，如Wasserstein重心估计。
• 在不同正则化参数和维度的合成数据上展示该算法的性能。

提出的方法

• 该方法使用熵正则化最优传输问题的对偶公式，将目标表示为样本上的期望。
• 随机梯度步骤直接从源分布和目标分布的样本中计算，避免了在每次迭代中求解正则化OT问题。
• 算法使用形式为 $\gamma_t = \min\{1/(\lambda t), c_0\varepsilon/\sqrt{t}\}$ 的学习率来优化对偶变量，以平衡早期收敛与渐近稳定性。
• 该方法通过基于采样数据更新对偶变量，联合完成估计与计算，从而实现在每步的次线性时间复杂度。
• 通过应用相同的随机对偶优化框架，将该方法扩展到Wasserstein重心问题。
• 理论分析表明，收敛速度为 $O(T^{-\delta})$ 量级，其中 $\delta \geq 1/2$，具体取决于问题维度和最小测度质量。

实验结果

研究问题

• RQ1 是否可以在不求解每一步的辅助优化问题的情况下，计算正则化Wasserstein估计器的随机梯度步骤？
• RQ2 所提出的正则化Wasserstein估计器的随机优化算法的收敛速度是多少？
• RQ3 学习率的选择如何影响对偶变量更新的稳定性和收敛性？
• RQ4 所提出的方法能否扩展到Wasserstein重心的估计？
• RQ5 在不同正则化参数和问题维度下，该算法的性能如何？

主要发现

• 该算法实现了每步的次线性时间复杂度，最简单情况下复杂度可为常数，从而支持高效的规模化优化。
• 理论收敛性已建立，收敛速率为 $O(T^{-\delta})$，其中 $\delta \geq 1/2$，与定理5.1的预测速率一致，并在实验中得到验证。
• 实验结果表明，当 $c_0 = 2$ 时，学习率 $\gamma_t = \min\{1/(\lambda t), c_0\varepsilon/\sqrt{t}\}$ 在收敛速度与稳定性之间提供了良好平衡。
• 正则化项 $\eta$ 使估计测度更接近目标支撑上的均匀分布，其中 $\eta = 2\varepsilon$ 可确保数值稳定性。
• 增加目标测度的支持大小 $J$ 可提升收敛速度，而增加输入支持大小 $I$ 则会降低性能。
• 该算法在合成数据上表现出稳定且快速的收敛，当学习率选择最优时，经验收敛速率超过 $O(T^{-1})$。