[论文解读] First-Order Methods with Increasing Iterate Averaging for Solving Saddle-Point Problems

Christian Kroer|arXiv (Cornell University)|Mar 26, 2019

Stochastic Gradient Optimization Techniques参考文献 15被引用 4

一句话总结

该论文提出了一种自适应平均方案，通过在第一类方法中增加对最近迭代值的权重，用于解决鞍点问题，实现了保证的 $1/T$ 收敛速率，同时在实践中优于均匀平均和最后迭代值。该方法在矩阵博弈、Fisher 市场和图像去噪任务中得到验证，表现出更优的收敛性和稳定性。

ABSTRACT

First-order methods are known to be among the fastest algorithms for solving large-scale convex-concave saddle-point problems. Algorithms that achieve a theoretical convergence rate on the order of $1/T$ are known, but these often rely on uniformly averaging iterates in order to get the guaranteed rate. In contrast, using the last iterate has repeatedly been found to perform better in practice, but with no guarantee on convergence rate. In this paper we propose using averaging schemes with increasing weight on recent iterates, which leads to a guaranteed $1/T$ convergence rate, while capturing the practical performance of using the last iterate. We show this for Chambolle and Pock's primal-dual algorithm, and mirror prox. We present numerical results on computing Nash equilibria in matrix games, competitive equilibria in Fisher markets, and image denoising via total-variation minimization under the $\ell_1$ norm. In all cases we find that our averaging schemes lead to much better performance than uniform averaging, and sometimes even better performance than using the last iterate.

研究动机与目标

• 为解决凸-凹鞍点问题中一阶方法的理论收敛保证与实际性能之间的差距。
• 克服均匀平均的局限性，后者虽能保证理论上的 $1/T$ 收敛速率，但在实践中表现不如使用最后迭代值。
• 设计一种平均方案，结合均匀平均的理论保证与最后迭代值的实证效率。
• 在矩阵博弈、竞争均衡和图像去噪等实际问题中，验证增加权重平均方法的有效性。
• 为缺乏收敛速率保证的最后迭代值提供一种具有理论基础的替代方案，尽管其在实践中表现强劲。

提出的方法

• 提出一种自适应平均方案，为一阶原始-对偶算法中的较新迭代值分配递增权重。
• 将该方案应用于 Chambolle 和 Pock 的原始-对偶算法以及镜像逼近方法，二者均为鞍点问题的标准求解器。
• 在新平均方案下推导理论收敛速率，证明两种算法均实现 $1/T$ 收敛。
• 采用非递减权重的迭代值加权平均，使较新迭代值的贡献大于早期迭代值。
• 采用递归更新规则实现加权平均，支持在优化过程中高效在线计算。
• 在三类问题上验证该方法：矩阵博弈、Fisher 市场均衡以及 $\ell_1$ 范数下的总变差去噪。

实验结果

研究问题

• RQ1 能否设计一种平均方案，既能保证 $1/T$ 收敛，又能在实际性能上匹配或超越最后迭代值？
• RQ2 在一阶鞍点求解器中，增加对近期迭代值的权重如何影响收敛速度和稳定性？
• RQ3 所提方案在实际应用中是否优于均匀平均和最后迭代值？
• RQ4 在 Chambolle-Pock 和镜像逼近算法的背景下，新平均方案的理论收敛行为如何？
• RQ5 该方法能否推广至包括博弈论均衡和图像处理任务在内的多样化问题类型？

主要发现

• 所提出的递增权重平均方案实现了理论上的 $1/T$ 收敛速率，与一阶方法的最佳已知速率一致。
• 在矩阵博弈中，新方案显著优于均匀平均，并在收敛速度上匹配或超越了最后迭代值。
• 在 Fisher 市场的竞争均衡中，该方法相比均匀平均表现出更快的收敛速度和更高的稳定性。
• 在总变差图像去噪任务中，自适应平均带来的目标函数值降低优于均匀平均，且在某些情况下超过了最后迭代值。
• 数值结果表明，该方法在实际性能上始终优于均匀平均，且在某些情况下甚至超越了最后迭代值。
• 理论保证与实证收益在多样化的问题领域中保持一致，验证了该方法的稳健性。