[论文解读] Adaptive Similar Triangles Method: a Stable Alternative to Sinkhorn's Algorithm for Regularized Optimal Transport

Pavel Dvurechensky, Alexander Gasnikov+2 more|arXiv (Cornell University)|Jun 23, 2017

Sparse and Compressive Sensing Techniques参考文献 35被引用 11

一句话总结

本文提出自适应相似三角形法（ASTM），一种新颖的一阶算法，用于求解熵正则化最优传输及其相关熵-线性规划问题。通过在对偶问题上采用自适应加速梯度下降，并支持从Sinkhorn方法进行热启动，ASTM 实现了 O(1/k²) 的收敛速率，在正则化参数 γ 较小时，其计算时间优于 Sinkhorn 算法，展现出更高的数值稳定性和实际应用中的效率。

ABSTRACT

In this paper, we are motivated by two important applications: entropy-regularized optimal transport problem and road or IP traffic demand matrix estimation by entropy model. Both of them include solving a special type of optimization problem with linear equality constraints and objective given as a sum of an entropy regularizer and a linear function. It is known that the state-of-the-art solvers for this problem, which are based on Sinkhorn's method (also known as RSA or balancing method), can fail to work, when the entropy-regularization parameter is small. We consider the above optimization problem as a particular instance of a general strongly convex optimization problem with linear constraints. We propose a new algorithm to solve this general class of problems. Our approach is based on the transition to the dual problem. First, we introduce a new accelerated gradient method with adaptive choice of gradient's Lipschitz constant. Then, we apply this method to the dual problem and show, how to reconstruct an approximate solution to the primal problem with provable convergence rate. We prove the rate $O(1/k^2)$, $k$ being the iteration counter, both for the absolute value of the primal objective residual and constraints infeasibility. Our method has similar to Sinkhorn's method complexity of each iteration, but is faster and more stable numerically, when the regularization parameter is small. We illustrate the advantage of our method by numerical experiments for the two mentioned applications. We show that there exists a threshold, such that, when the regularization parameter is smaller than this threshold, our method outperforms the Sinkhorn's method in terms of computation time.

研究动机与目标

• 解决当熵正则化参数 γ 较小时，Sinkhorn 算法在最优传输和交通矩阵估计问题中出现的数值不稳定与性能下降问题。
• 为具有线性约束的强凸优化问题开发一种通用的一阶方法，适用于熵正则化问题。
• 为原始目标残差和约束不可行性均实现可证明的快速收敛，收敛速率为 O(1/k²)。
• 通过从 Sinkhorn 方法进行热启动，实现实际加速，提升小 γ 条件下的运行时间表现。
• 提供一种稳定、可扩展的替代方案，相较于 Sinkhorn 方法，保持较低的每轮迭代复杂度，同时提升鲁棒性。

提出的方法

• 将原始问题转化为对偶问题，利用强凸性和线性约束，实现高效的对偶优化。
• 开发了一种自适应加速梯度方法，可自动估计梯度的利普希茨常数，提升收敛速度且无需调参。
• 使用该自适应方法求解对偶问题，实现 O(1/k²) 的收敛速率。
• 通过闭式更新从对偶迭代中重构近似原始解，确保可行性与目标函数精度。
• 通过在 γ 较小时以 Sinkhorn 方法的解作为初始值，实现热启动，加速收敛。
• 该算法保持与 Sinkhorn 方法相当的每轮迭代复杂度，确保可扩展性。

实验结果

研究问题

• RQ1 能否设计一种一阶方法，使熵正则化最优传输在具有线性约束时实现 O(1/k²) 的收敛速率？
• RQ2 当正则化参数 γ 较小时，所提方法是否仍保持数值稳定性且快于 Sinkhorn 算法？
• RQ3 自适应梯度估计是否能在无需预先知晓利普希茨常数的情况下提升收敛性能？
• RQ4 从 Sinkhorn 方法进行热启动在小 γ 条件下能在多大程度上提升新算法的性能？
• RQ5 新方法在不同问题规模和代价矩阵下的计算复杂度与收敛行为，与 Sinkhorn 方法相比如何？

主要发现

• 所提出的 ASTM 算法在原始目标残差和约束不可行性上均实现了 O(1/k²) 的收敛速率，达到一阶方法的理论最优收敛速度。
• 当正则化参数 γ < γ₀ 时，ASTM 在计算时间上优于 Sinkhorn 算法，且阈值 γ₀ 大于理论极限值 γ* = ε/(4 ln p)，表明其在实际应用中具有优越性。
• 在合成数据和基于 MNIST 的最优传输问题上的数值实验表明，当 γ 较小时，采用热启动的 ASTM 始终比 Sinkhorn 算法更快。
• ASTM 的运行时间与问题规模 p 的平方近似成比例，与 Sinkhorn 方法相似，证实了其可扩展性。
• 热启动显著加速了 ASTM 的收敛，在欧几里得和指数-欧几里得代价矩阵的多个测试用例中均显著减少了运行时间。
• 即使当 γ 极小时，该方法仍表现出鲁棒性和稳定性，而 Sinkhorn 方法因数值溢出或收敛过慢而失效。