[论文解读] Extragradient Method: $O(1/K)$ Last-Iterate Convergence for Monotone Variational Inequalities and Connections With Cocoercivity

Eduard Gorbunov, Nicolas Loizou+1 more|arXiv (Cornell University)|Oct 8, 2021

Sparse and Compressive Sensing Techniques参考文献 48被引用 6

一句话总结

该论文首次在单调变分不等式中实现了无需假设算子雅可比矩阵利普希茨连续性的外梯度法最后迭代O(1/K)收敛速率，解决了长期悬而未决的开放问题。此外，研究进一步表明，即使原始算子是单调且利普希茨连续的，外梯度法与乐观梯度法的更新算子也并非共轭单调，这与文献中常见的假设形成鲜明对比。

ABSTRACT

Extragradient method (EG) (Korpelevich, 1976) is one of the most popular methods for solving saddle point and variational inequalities problems (VIP). Despite its long history and significant attention in the optimization community, there remain important open questions about convergence of EG. In this paper, we resolve one of such questions and derive the first last-iterate $O(1/K)$ convergence rate for EG for monotone and Lipschitz VIP without any additional assumptions on the operator unlike the only known result of this type (Golowich et al., 2020) that relies on the Lipschitzness of the Jacobian of the operator. The rate is given in terms of reducing the squared norm of the operator. Moreover, we establish several results on the (non-)cocoercivity of the update operators of EG, Optimistic Gradient Method, and Hamiltonian Gradient Method, when the original operator is monotone and Lipschitz.

研究动机与目标

• 解决外梯度法在单调且利普希茨连续变分不等式中，无需对算子雅可比矩阵施加额外假设时，是否能实现O(1/K)最后迭代收敛速率的开放问题。
• 探究当原始算子为单调且利普希茨连续时，外梯度法与乐观梯度法的更新算子是否具有共轭单调性。
• 澄清外梯度法/乐观梯度法与邻近点法之间的理论关系，尤其在共轭单调性假设下的表现。
• 在类似条件下，为哈密顿梯度法提供严格的收敛性分析，并确立最后迭代收敛速率。

提出的方法

• 通过算子及其雅可比矩阵的利普希茨连续性，推导出与外梯度法相关的哈密顿函数的点依赖平滑性界。
• 应用哈密顿函数的下降引理，建立递归不等式，从而支持收敛速率分析。
• 通过数学归纳法与求和论证，对迭代过程中算子范数平方的最小值进行有界，最终导出O(1/K)速率。
• 通过构造反例并结合矩阵分析，研究外梯度法与乐观梯度法有效更新算子的共轭单调性。
• 证明邻近点法可被视作在共轭单调算子上的梯度下降，从而提供理论基准。
• 运用矩阵范数不等式与黑塞矩阵的积分表示，对哈密顿函数梯度的增长进行有界。

实验结果

研究问题

• RQ1 在外梯度法应用于单调且利普希茨连续的变分不等式时，若不假设算子雅可比矩阵的利普希茨连续性，是否能实现O(1/K)最后迭代收敛？
• RQ2 当原始算子为单调且利普希茨连续时，外梯度法与乐观梯度法的更新算子是否具有共轭单调性？
• RQ3 更新算子缺乏共轭单调性是否解释了以往最后迭代收敛结果中需要更强假设的原因？
• RQ4 在与外梯度法相同假设下，哈密顿梯度法是否也能获得类似的收敛保证？
• RQ5 当应用于单调问题时，对共轭单调算子进行梯度下降与外梯度法之间是否存在根本性的收敛行为差异？

主要发现

• 该论文首次在单调变分不等式中建立了外梯度法的O(1/K)最后迭代收敛速率，且无需假设算子雅可比矩阵的利普希茨连续性。
• 在仅假设F单调且L-利普希茨连续的条件下，收敛速率以算子范数平方衡量，即 EK = min_{k≤K} ||F(x^k)||² = O(1/K)。
• 外梯度法的更新算子在一般情况下并非共轭单调，即使F是单调且L-利普希茨连续的，从而推翻了常见的启发式假设。
• 同样地，在相同条件下，乐观梯度法的更新算子也并非共轭单调，尽管其与外梯度法关系密切。
• 分析表明，哈密顿梯度法在相同假设下同样实现O(1/K)最后迭代收敛，其速率依赖于F初始范数。
• 论文证明邻近点法可被解释为在共轭单调算子上的梯度下降，为其收敛性提供了理论基础，但该结论无法推广至外梯度法或乐观梯度法。