[論文レビュー] Extragradient Method: $O(1/K)$ Last-Iterate Convergence for Monotone Variational Inequalities and Connections With Cocoercivity

Eduard Gorbunov, Nicolas Loizou+1 more|arXiv (Cornell University)|Oct 8, 2021

Sparse and Compressive Sensing Techniques参考文献 48被引用数 6

ひとこと要約

本稿は、ヤコビアンのリプシッツ連続性を仮定しない単調な変分不等式における反復の最終的収束速度として初めてO(1/K)を確立し、長年の未解決問題を解決した。さらに、元の作用素が単調かつリプシッツである場合でさえ、反復勾配法と楽観的勾配法の更新作用素は一般にココーサイス的でないことが示され、既存の文献における一般的な仮定と対照的である。

ABSTRACT

Extragradient method (EG) (Korpelevich, 1976) is one of the most popular methods for solving saddle point and variational inequalities problems (VIP). Despite its long history and significant attention in the optimization community, there remain important open questions about convergence of EG. In this paper, we resolve one of such questions and derive the first last-iterate $O(1/K)$ convergence rate for EG for monotone and Lipschitz VIP without any additional assumptions on the operator unlike the only known result of this type (Golowich et al., 2020) that relies on the Lipschitzness of the Jacobian of the operator. The rate is given in terms of reducing the squared norm of the operator. Moreover, we establish several results on the (non-)cocoercivity of the update operators of EG, Optimistic Gradient Method, and Hamiltonian Gradient Method, when the original operator is monotone and Lipschitz.

研究の動機と目的

• 反復の最終的収束速度がO(1/K)であるかどうかという、単調かつリプシッツな変分不等式において、作用素のヤコビアンに関する追加仮定なしに、反復勾配法が達成可能かどうかという未解決問題を解消すること。
• 元の作用素が単調かつリプシッツである場合に、反復勾配法と楽観的勾配法の更新作用素がココーサイス的であるかどうかを調査すること。
• 反復勾配法／楽観的勾配法と近位点法との理論的関係を、特にココーサイス性仮定の下で明確化すること。
• 反復の最終的収束速度を保証する類似の条件下で、ハミルトニアン勾配法に対する厳密な収束解析を提供すること。

提案手法

• 作用素のリプシッツ連続性とそのヤコビアンの連続性を用いて、反復勾配法に関連するハミルトニアン関数の点依存の滑らかさの上限を導出する。
• ハミルトニアン関数に対する降下補題を適用し、収束速度解析を可能にする再帰的不等式を確立する。
• 帰納法と和の評価を用いて、反復における作用素のノルムの二乗の最小値を評価し、O(1/K)の収束率に至る。
• 反復勾配法と楽観的勾配法の有効な更新作用素のココーサイス性を、反例の構築と行列解析を用いて分析する。
• 近位点法がココーサイス的作用素に対する勾配降下法として解釈できることを確立し、理論的基盤を提供する。
• 行列ノルムの不等式とヘッシアンの積分表現を用いて、ハミルトニアンの勾配の成長を評価する。

実験結果

リサーチクエスチョン

• RQ1 単調かつリプシッツな変分不等式において、作用素のヤコビアンのリプシッツ連続性を仮定しない場合に、反復勾配法がO(1/K)の最終的収束速度を達成できるか。
• RQ2 元の作用素が単調かつリプシッツである場合に、反復勾配法と楽観的勾配法の更新作用素がココーサイス的であるか。
• RQ3 更新作用素のココーサイス性の欠如が、過去の最終的収束結果におけるより強い仮定の必要性を説明できるか。
• RQ4 ハミルトニアン勾配法は、反復勾配法と同様の仮定のもとで、同様の収束保証を得られるか。
• RQ5 ココーサイス的作用素に対する勾配降下法と、単調な問題に適用された反復勾配法との間には、収束挙動に根本的な差があるか。

主な発見

• 本稿は、作用素のヤコビアンがリプシッツ連続であることを仮定しない単調な変分不等式において、反復勾配法の最初のO(1/K)の最終的収束速度を確立した。
• 収束速度は作用素のノルムの二乗の観点で示され、E_K = min_{k≤K} ||F(x^k)||² = O(1/K)と表現され、単調性とFのL-リプシッツ連続性の仮定のみで成立する。
• 反復勾配法の更新作用素は、一般にココーサイス的でない。Fが単調かつL-リプシッツであっても、これは一般的なヒューリスティック仮定を否定する。
• 同様に、楽観的勾配法の更新作用素も、Fが単調かつリプシッツである場合に一般にココーサイス的でない。これは、反復勾配法との密接な関係にもかかわらず成り立つ。
• 解析により、ハミルトニアン勾配法も同様の仮定のもとでO(1/K)の最終的収束速度を達成することが示された。収束速度は初期のFのノルムに依存する。
• 本稿は、近位点法がココーサイス的作用素に対する勾配降下法として解釈できることを示し、収束の理論的基盤を提供したが、これは反復勾配法や楽観的勾配法には拡張できない。