[논문 리뷰] Extragradient Method: $O(1/K)$ Last-Iterate Convergence for Monotone Variational Inequalities and Connections With Cocoercivity

Eduard Gorbunov, Nicolas Loizou외 1명|arXiv (Cornell University)|2021. 10. 08.

Sparse and Compressive Sensing Techniques참고 문헌 48인용 수 6

한 줄 요약

이 논문은 연산자의 자코비안에 대한 리프시츠 연속성 가정 없이도 단조성 변분부등식에서 외삽법(extragradient method)의 마지막 반복자 수렴 속도가 O(1/K)임을 처음으로 확립한다. 이는 오랫동안 열려 있던 문제를 해결한 것이다. 또한, 외삽법과 낙관적 경사하강법(optimistic gradient method)의 갱신 연산자가 원래 연산자가 단조적이고 리프시츠일지라도 일반적으로 공동강성(cocoercive)이 아니라는 점을 보여주며, 문헌에서 흔히 가정되는 바와 대조된다.

ABSTRACT

Extragradient method (EG) (Korpelevich, 1976) is one of the most popular methods for solving saddle point and variational inequalities problems (VIP). Despite its long history and significant attention in the optimization community, there remain important open questions about convergence of EG. In this paper, we resolve one of such questions and derive the first last-iterate $O(1/K)$ convergence rate for EG for monotone and Lipschitz VIP without any additional assumptions on the operator unlike the only known result of this type (Golowich et al., 2020) that relies on the Lipschitzness of the Jacobian of the operator. The rate is given in terms of reducing the squared norm of the operator. Moreover, we establish several results on the (non-)cocoercivity of the update operators of EG, Optimistic Gradient Method, and Hamiltonian Gradient Method, when the original operator is monotone and Lipschitz.

연구 동기 및 목표

• 외삽법이 연산자의 자코비안에 대한 추가 가정 없이도 단조적이고 리프시츠인 변분부등식에서 O(1/K) 마지막 반복자 수렴 속도를 달성할 수 있는지 여부를 해결하는 것.
• 원래 연산자가 단조적이고 리프시츠일 때 외삽법과 낙관적 경사하강법의 갱신 연산자가 공동강성인지 여부를 조사하는 것.
• 외삽법/낙관적 경사하강법과 프록시멀 포인트 방법 사이의 이론적 관계, 특히 공동강성 조건 하에서의 관계를 명확히 하는 것.
• 외삽법과 유사한 조건 하에서 힘론적 경사하강법의 수렴 분석을 철저히 수행하고 마지막 반복자 수렴 속도를 확립하는 것.

제안 방법

• 외삽법과 관련된 힘론 함수의 점별 스무스성 상한을 유도하기 위해, 연산자와 그 자코비안의 리프시츠 연속성을 사용한다.
• 힘론 함수에 대한 내림차순 보조정리를 적용하여, 수렴 속도 분석이 가능한 재귀 부등식을 수립한다.
• 귀납법과 합산 추론을 통해 반복 과정에서 연산자의 노름 제곱의 최소값을 바ounds하여 O(1/K) 속도에 도달한다.
• 외삽법과 낙관적 경사하강법의 효과적 갱신 연산자의 공동강성을 분석하기 위해 반례를 구성하고 행렬 분석을 활용한다.
• 프록시멀 포인트 방법이 공동강성 연산자에 대한 경사하강법으로 볼 수 있음을 증명하여 이론적 기준을 제공한다.
• 행렬 노름 부등식과 헤시안의 적분 표현을 사용하여 힘론 함수의 경사의 성장률을 바ounds한다.

실험 결과

연구 질문

• RQ1 외삽법이 연산자의 자코비안에 대한 리프시츠 연속성 가정 없이도 단조적이고 리프시츠인 변분부등식에서 O(1/K) 마지막 반복자 수렴 속도를 달성할 수 있는가?
• RQ2 원래 연산자가 단조적이고 리프시츠일 때 외삽법과 낙관적 경사하강법의 갱신 연산자가 공동강성인지 여부는 무엇인가?
• RQ3 갱신 연산자가 공동강성이 없기 때문에 이전의 마지막 반복자 수렴 결과에 더 강한 가정이 필요로 하는가?
• RQ4 외삽법과 동일한 가정 하에서 힘론적 경사하강법도 유사한 수렴 보장을 갖는 분석이 가능한가?
• RQ5 공동강성 연산자에 대한 경사하강법과 단조 문제에 적용된 외삽법 사이에 수렴 행동에 본질적인 차이가 존재하는가?

주요 결과

• 이 논문은 연산자의 자코비안에 대한 리프시츠 연속성 조건 없이도 단조성 변분부등식에서 외삽법의 첫 번째 O(1/K) 마지막 반복자 수렴 속도를 확립한다.
• 수렴 속도는 단지 단조성과 F의 L-리프시츠 연속성 조건 하에서, 연산자의 노름 제곱을 기준으로 증명되며, 즉 EK = min_{k≤K} ||F(x^k)||² = O(1/K)이다.
• 외삽법의 갱신 연산자는 일반적으로 공동강성이 아니다. F가 단조적이고 L-리프시츠일지라도 그렇다. 이는 일반적으로 공유되는 히우리스틱 가정을 반박한다.
• 마찬가지로 낙관적 경사하강법의 갱신 연산자 역시 동일한 조건 하에서 공동강성이 아니다. 외삽법과의 밀접한 유사성에도 불구하고 그렇다.
• 분석 결과, 힘론적 경사하강법 역시 동일한 조건 하에서 O(1/K) 마지막 반복자 수렴 속도를 확보함을 보여주며, 이는 초기 F의 노름에 따라 달라진다.
• 논문은 프록시멀 포인트 방법이 공동강성 연산자에 대한 경사하강법으로 볼 수 있음을 보여주며 이론적 기반을 제공하지만, 이는 외삽법이나 낙관적 경사하강법에는 확장되지 않는다.