[論文レビュー] Accelerated Algorithms for Smooth Convex-Concave Minimax Problems with $\mathcal{O}(1/k^2)$ Rate on Squared Gradient Norm

Taeho Yoon, Ernest K. Ryu|arXiv (Cornell University)|Feb 16, 2021

Sparse and Compressive Sensing Techniques参考文献 85被引用数 8

ひとこと要約

この論文は、滑らかな凸-凹最小化問題に対するExtra Anchored Gradient (EAG) アルゴリズムを導入し、勾配ノルムの二乗に対する $Ó(1/k^2)$ の加速収束速度を達成した。これは最適である。この手法は、Nesterov 式の加速とは異なり、外挙動ステップとアンカリングを組み合わせており、決定的設定において最適性を示す $Ó(1/k^2)$ の一致する下界を確立している。

ABSTRACT

In this work, we study the computational complexity of reducing the squared gradient magnitude for smooth minimax optimization problems. First, we present algorithms with accelerated $\mathcal{O}(1/k^2)$ last-iterate rates, faster than the existing $\mathcal{O}(1/k)$ or slower rates for extragradient, Popov, and gradient descent with anchoring. The acceleration mechanism combines extragradient steps with anchoring and is distinct from Nesterov's acceleration. We then establish optimality of the $ \mathcal{O}(1/k^2)$ rate through a matching lower bound.

研究の動機と目的

• 滑らかな凸-凹最小化問題における勾配ノルムの二乗の収束速度に関する理解のギャップを埋めること。
• 従来の外挙動法およびアンカリング法よりも、勾配ノルムの二乗においてより速い収束を達成するアルゴリズムを開発すること。
• 滑らかな凸-凹設定における勾配ベースのアルゴリズムに対して、$Ó(1/k^2)$ の複雑さ下界を構築することで、$Ó(1/k^2)$ のレートの最適性を確立すること。
• 異なる非最適性指標（双対ギャップ対勾配ノルム）には、それぞれ異なる加速メカニズムが必要であることを明確にすること。

提案手法

• 外挙動ステップと、勾配ノルムの二乗の収束を加速するための新しいアンカリング機構を組み合わせた、Extra Anchored Gradient (EAG) アルゴリズムを提案する。
• 1 つの反復点が外挙動ステップで更新され、もう 1 つの反復点が初期点に固定されてアンカリングされることで、収束を安定化する二反復系を採用する。
• 現在の反復点と初期反復点の差分を含むモーメンタムに類似した項を含む、勾配降下と組み合わせた再帰的関係を導出する。
• 勾配ノルムの二乗とその減衰率を追跡するためのリャプノフ関数解析を用いて収束を確立する。
• 滑らかな凸-凹設定における勾配ベースのアルゴリズムに対して、$Ó(1/k^2)$ の一致する下界を構築することで、最適性を証明する。
• 2-CLI および変換された 1-CLI のクラスの文脈でアルゴリズムを分析し、これらのアルゴリズム枠組みにおいて $Ó(1/k^2)$ のレートを向上させることはできないことを示す。

実験結果

リサーチクエスチョン

• RQ1 滑らかな凸-凹最小化問題において、勾配ノルムの二乗に対して $Ó(1/k^2)$ の加速が達成可能か？
• RQ2 $Ó(1/k^2)$ のレートは最適か、それより速い収束が可能か？
• RQ3 最小化問題における勾配ノルムの加速メカニズムと双対ギャップの加速メカニズムは、どのように異なるか？
• RQ4 平均化や最良反復点の追跡を一切行わずに、最後の反復点のみで $Ó(1/k^2)$ のレートを達成できるか？
• RQ5 2-CLI や変換された 1-CLI といったより広いアルゴリズムクラスにおいて、$Ó(1/k^2)$ のレートは成立するか？

主な発見

• EAG アルゴリズムは、従来の外挙動法およびアンカリング法の $Ó(1/k)$ のレートを上回り、勾配ノルムの二乗に対して $Ó(1/k^2)$ のレートを達成した。
• 滑らかな凸-凹設定における勾配ベースのアルゴリズムに対して、$Ó(1/k^2)$ の一致する下界を確立したため、$Ó(1/k^2)$ のレートが最適であることが証明された。
• EAG の加速メカニズムは Nesterov の手法とは異なり、初期点へのアンカリングと外挙動ステップの組み合わせに依存している。
• EAG の最後の反復点は、平均化や最良反復点の追跡を一切必要とせず、最適なレートを達成でき、決定的設定において大きな利点である。
• 2-CLI アルゴリズムへは $Ó(1/k^2)$ のレートを一般化することはできず、また $Ó(1/k)$ の 1-SCLI 下界が、変換された 1-CLI アルゴリズムへは拡張されないため、新しいレートの最適性が確認された。
• 勾配ノルムの二乗が、特に双対ギャップが実用的でない非凸-凹設定においても意味のある直接観測可能な非最適性指標であることが示された。