[论文解读] Greedy stochastic algorithms for entropy-regularized optimal transport problems

Brahim Khalil Abid, Robert M. Gower|arXiv (Cornell University)|Mar 4, 2018

Risk and Portfolio Optimization参考文献 11被引用 10

一句话总结

本文提出了一类贪心随机算法——贪心随机Sinkhorn（Greedy Stochastic Sinkhorn），用于求解熵正则化最优传输问题，其中行和列的更新通过基于约束违反程度的概率选择来确定。该方法实现了与Sinkhorn和Greenkhorn相当的收敛速率，数值实验表明在低正则化条件下性能更优，尤其当使用参数α=1的多项式概率函数时表现突出。

ABSTRACT

Optimal transport (OT) distances are finding evermore applications in machine learning and computer vision, but their wide spread use in larger-scale problems is impeded by their high computational cost. In this work we develop a family of fast and practical stochastic algorithms for solving the optimal transport problem with an entropic penalization. This work extends the recently developed Greenkhorn algorithm, in the sense that, the Greenkhorn algorithm is a limiting case of this family. We also provide a simple and general convergence theorem for all algorithms in the class, with rates that match the best known rates of Greenkorn and the Sinkhorn algorithm, and conclude with numerical experiments that show under what regime of penalization the new stochastic methods are faster than the aforementioned methods.

研究动机与目标

• 为解决大规模机器学习应用中最优传输的高计算成本问题。
• 开发Greenkhorn算法的推广版本，允许基于约束违反程度进行随机、概率性更新选择。
• 建立统一的收敛定理，其收敛速率与Greenkhorn和Sinkhorn的最佳已知结果一致。
• 评估新算法在低熵正则化区域的性能，此时解最接近原始最优传输问题。
• 提出块变体，以提升并行化能力并降低每次迭代的计算成本。

提出的方法

• 提出一类算法，其中更新某一行或一列的概率与该行或列在多面体中违反运输约束的程度成正比。
• 采用由α参数化的灵活概率函数，当α→∞时，Greenkhorn算法成为其极限情况。
• 采用正则化最优传输问题的对偶形式，通过矩阵缩放更新对偶变量u和v。
• 为该类算法推导出一个通用收敛定理，证明在温和条件下具有O(n/ε²)的迭代复杂度。
• 引入块变体，一次更新d个分量，提升并行化能力并减少约束违反程度计算的频率。
• 采用随机更新规则，每次迭代基于违反程度的概率选择一个行或列进行更新，避免完整矩阵更新。

实验结果

研究问题

• RQ1 能否为熵正则化最优传输问题开发一类广义的贪心随机算法，以推广Greenkhorn算法？
• RQ2 该类算法的收敛速率可被证明为何种程度？其是否与Sinkhorn和Greenkhorn的最佳已知速率一致？
• RQ3 在何种熵正则化参数（即λ）的范围内，所提出的Greedy Stochastic Sinkhorn优于Sinkhorn和Greenkhorn？
• RQ4 概率函数的选择（如多项式与softmax）如何影响收敛速度与稳定性？
• RQ5 该算法的块变体能否在保持收敛性质的同时提升计算效率？

主要发现

• 在MNIST数据集上，使用多项式概率函数（11）且α=1的Greedy Stochastic Sinkhorn在低正则化区域（λ=10）实现了最快收敛速度。
• 数值实验中算法表现出趋于零的方差，误差条趋近于零，表明尽管具有随机性，但收敛过程依然稳定。
• 当α→∞或T→0时，概率函数的极限情形即为Greenkhorn算法，验证了与先前工作的兼容性。
• 块变体一次更新d个分量，保持收敛速度的同时实现并行化并降低计算开销。
• 所提算法族的收敛速率与最佳已知的O(n/ε²)速率一致，验证了理论保证的正确性。
• 数值结果表明，贪心方法的关键优势并非选择违反程度最高的约束，而是避免对已满足约束的分量进行更新，这一特性在块变体和随机变体中均得以保留。