[论文解读] A Unified Analysis of Extra-gradient and Optimistic Gradient Methods for Saddle Point Problems: Proximal Point Approach

Aryan Mokhtari, Asuman Ozdaglar+1 more|arXiv (Cornell University)|Jan 24, 2019

Sparse and Compressive Sensing Techniques参考文献 36被引用 74

一句话总结

论文通过将 Extra-gradient (EG) 和 Optimistic Gradient Descent Ascent (OGDA) 方法用于鞍点问题，视为近端点方法的近似，推导双线性以及强凸-强凹情形的一致收敛性结果，并通过更广的参数选择对 OGDA 进行泛化。

ABSTRACT

In this paper we consider solving saddle point problems using two variants of Gradient Descent-Ascent algorithms, Extra-gradient (EG) and Optimistic Gradient Descent Ascent (OGDA) methods. We show that both of these algorithms admit a unified analysis as approximations of the classical proximal point method for solving saddle point problems. This viewpoint enables us to develop a new framework for analyzing EG and OGDA for bilinear and strongly convex-strongly concave settings. Moreover, we use the proximal point approximation interpretation to generalize the results for OGDA for a wide range of parameters.

研究动机与目标

• 激励并研究以凸-凹形式的鞍点问题及其与零和博弈、鲁棒优化、控制和生成对抗网络（GANs）的相关性。
• 构建一个基于统一近端点框架来分析 EG 和 OGDA 方法。
• 在双线性以及强凸-强凹情形下建立 EG 和 OGDA 的收敛率。
• 用更广的参数选择对 OGDA 进行泛化并证明广义方法的收敛性。

提出的方法

• 在双线性及一般光滑的凸-凹假设下建模鞍点问题。
• 将 OGDA 更新理解为近端点方法的近似，误差为 o(η^2)（命题1）。
• 给定合适的步长，在双线性情形（定理3）和强凸-强凹情形（定理4）下证明 OGDA 的线性收敛。
• 将 OGDA 泛化为允许梯度与动量系数不相等，并在规定条件下证明收敛（定理5）。
• 展示 EG 更新作为带有误差界的近端点近似，并在双线性情形（定理6）和强凸-强凹情形（定理7）下建立线性收敛。
• 将结果与现有文献联系起来并比较收敛速率保证（论文中的表1）。

实验结果

研究问题

• RQ1 EG 与 OGDA 能否被解释为鞍点问题的近端点方法近似？
• RQ2 在双线性以及强凸-强凹情形下可以建立哪些线性收敛率？
• RQ3 具有灵活参数选择的泛化 OGDA 如何影响收敛性？
• RQ4 近端点视角如何将 EG 与 OGDA 的分析与现有鞍点问题的结果统一起来？

主要发现

• 在使用合适步长时，OGDA 在双线性鞍点问题中线性收敛，总迭代复杂度为 O(κ log(1/ε))。
• 在强凸-强凹情形下，OGDA 的线性收敛依赖于光滑性常数的步长，达到 O(κ log(1/ε)) 次迭代。
• 在双线性问题和强凸-强凹情形下，EG 在显式步长选择下也实现线性收敛，匹配已知的最优速率。
• 对当前梯度项与过去梯度项系数不相等的广义 OGDA，在指定参数范围内仍然线性收敛（定理5）。
• EG 与 OGDA 可以被视为带有 o(η^2) 误差的近端点方法近似，为它们的收敛性分析提供统一框架。