[論文レビュー] A Unified Analysis of Extra-gradient and Optimistic Gradient Methods for Saddle Point Problems: Proximal Point Approach

Aryan Mokhtari, Asuman Ozdaglar+1 more|arXiv (Cornell University)|Jan 24, 2019

Sparse and Compressive Sensing Techniques参考文献 36被引用数 74

ひとこと要約

tldr: 本稿は鞍点問題に対する Extra-gradient (EG) および Optimistic Gradient Descent Ascent (OGDA) 手法を、近接点法の近似として見ることで分析し、二次結合の線形性と強凸-強凹設定での統一的収束結果を導出し、より広いパラメータ選択によるOGDAを一般化する。

ABSTRACT

In this paper we consider solving saddle point problems using two variants of Gradient Descent-Ascent algorithms, Extra-gradient (EG) and Optimistic Gradient Descent Ascent (OGDA) methods. We show that both of these algorithms admit a unified analysis as approximations of the classical proximal point method for solving saddle point problems. This viewpoint enables us to develop a new framework for analyzing EG and OGDA for bilinear and strongly convex-strongly concave settings. Moreover, we use the proximal point approximation interpretation to generalize the results for OGDA for a wide range of parameters.

研究の動機と目的

• 凸-凹形の鞍点問題とそれらが零和ゲーム、ロバスト最適化、制御、GANs においてどのように関連するかを動機づけて研究する。
• EGとOGDA手法を解析するための統一的な近接点ベースの枠組みを開発する。
• 二次結合(bilinear)および強凸-強凹設定におけるEGとOGDAの収束速度を確立する。
• より広いパラメータ選択を用いてOGDAを一般化し、一般化手法の収束を証明する。

提案手法

• バイリニアおよび一般の滑らかな凸-凹仮定の下で鞍点問題をモデル化する。
• OGDA更新を近接点法の近似として、o(η^2)の誤差を伴うものとして解釈する（命題1）。
• 適切なステップサイズの下で、OGDAはバイリニア設定で線形収束する（定理3）、および強凸-強凹設定で線形収束する（定理4）。
• 現在の勾配係数とモーメント係数が異なるOGDAへ一般化し、特定の条件の下で収束を証明する（定理5）。
• EG更新を誤差境界を持つ近接点法の近似として示し、バイリニアでの線形収束（定理6）と、強凸-強凹の場合での線形収束（定理7）を確立する。
• 既存の文献との関連を示し、収束保証を比較する（論文の表1）。

実験結果

リサーチクエスチョン

• RQ1 EGとOGDAを鞍点問題の近接点法近似として解釈できるか。
• RQ2 バイリニアおよび強凸-強凹設定において、EGとOGDAに対してどのような線形収束率が確立できるか。
• RQ3 フレキシブルなパラメータ選択を持つ一般化OGDAは収束にどのように影響するか。
• RQ4 近接点視点は鞍点問題に対する既存の結果とEGおよびOGDAの解析をどのように統一するか。

主な発見

• OGDAは適切なステップサイズを用いるとバイリニアの鞍点問題で線形収束し、総反復回数は O(kappa log(1/epsilon))。
• 滑らかさ定数に依存するステップサイズで、強凸-強凹設定においてOGDAは線形収束し、反復数は O(kappa log(1/epsilon)) を達成する。
• EGはバイリニア問題および明示的なステップサイズ選択下の強凸-強凹設定で線形収束し、既知の最適速度に一致する。
• 現在勾配と過去勾配項の係数が異なる一般化OGDAは、特定のパラメータ範囲で線形収束性を維持する（定理5）。
• EGとOGDAは o(η^2) の誤差を伴う近接点法の近似としてみなすことができ、収束解析の統一的な枠組みを提供する。