[论文解读] Accelerated Algorithms for Smooth Convex-Concave Minimax Problems with $\mathcal{O}(1/k^2)$ Rate on Squared Gradient Norm

Taeho Yoon, Ernest K. Ryu|arXiv (Cornell University)|Feb 16, 2021

Sparse and Compressive Sensing Techniques参考文献 85被引用 8

一句话总结

本文提出了用于光滑凸-凹极小化问题的额外锚定梯度（Extra Anchored Gradient, EAG）算法，实现了对平方梯度范数的加速 $Ó(1/k^2)$ 收敛速率，该速率是最优的。该方法结合了外梯度步骤与锚定机制，与内斯特罗夫风格的加速不同，并建立了匹配的 $Ó(1/k^2)$ 低边，证明了在确定性设置下的最优性。

ABSTRACT

In this work, we study the computational complexity of reducing the squared gradient magnitude for smooth minimax optimization problems. First, we present algorithms with accelerated $\mathcal{O}(1/k^2)$ last-iterate rates, faster than the existing $\mathcal{O}(1/k)$ or slower rates for extragradient, Popov, and gradient descent with anchoring. The acceleration mechanism combines extragradient steps with anchoring and is distinct from Nesterov's acceleration. We then establish optimality of the $ \mathcal{O}(1/k^2)$ rate through a matching lower bound.

研究动机与目标

• 为光滑凸-凹极小化问题中平方梯度范数的收敛速率理解差距提供填补。
• 开发一种算法，使其在平方梯度范数上的收敛速度优于现有的外梯度与锚定方法。
• 通过匹配的复杂度低边，建立 $Ó(1/k^2)$ 速率的最优性。
• 阐明不同次优性度量（对偶间隙与梯度范数）需要不同的加速机制。

提出的方法

• 提出额外锚定梯度（EAG）算法，通过结合外梯度步骤与新颖的锚定机制，加速平方梯度范数的收敛。
• 采用双迭代系统，其中一个迭代通过外梯度步骤更新，另一个则锚定至固定的初始点以稳定收敛。
• 推导出一个递推关系，结合梯度下降与涉及当前迭代与初始迭代差值的动量项。
• 通过李雅普诺夫函数分析建立收敛性，该分析追踪平方梯度范数及其衰减速率。
• 通过构造光滑凸-凹设定下任意基于梯度的算法的匹配 $Ó(1/k^2)$ 低边，证明最优性。
• 在 2-CLI 与平移 1-CLI 类的背景下分析该算法，表明在这些算法框架下 $Ó(1/k^2)$ 速率无法进一步提升。

实验结果

研究问题

• RQ1 能否在光滑凸-凹极小化问题中实现对平方梯度范数的加速 $Ó(1/k^2)$ 速率？
• RQ2 $Ó(1/k^2)$ 速率是否最优，或可实现更快的收敛？
• RQ3 极小化问题中梯度范数的加速机制与对偶间隙的加速机制有何不同？
• RQ4 能否仅通过最后一个迭代实现 $Ó(1/k^2)$ 速率，而无需平均或追踪最优迭代？
• RQ5 该 $Ó(1/k^2)$ 速率在更广泛的算法类（如 2-CLI 或平移 1-CLI）下是否依然成立？

主要发现

• EAG 算法在平方梯度范数上实现了 $Ó(1/k^2)$ 速率，优于外梯度与锚定方法先前的 $Ó(1/k)$ 速率。
• $Ó(1/k^2)$ 速率是最优的，因为在光滑凸-凹设定下，为基于梯度的算法建立了匹配的 $Ó(1/k^2)$ 低边。
• EAG 中的加速机制与内斯特罗夫方法不同，其依赖于外梯度步骤与初始点锚定的结合。
• EAG 的最后一个迭代在无需平均或追踪最优迭代的情况下即可达到最优速率，这在确定性设置中是一个关键优势。
• $Ó(1/k^2)$ 速率无法推广至 2-CLI 算法，且 $Ó(1/k)$ 的 1-SCLI 低边在梯度范数上不适用于平移 1-CLI 算法，从而确认了新速率的最优性。
• 平方梯度范数被证明是具有意义且可直接观测的次优性度量，尤其在非凸-凹设定下，此时对偶间隙不具实用性。