[論文レビュー] Linear Convergence of the Primal-Dual Gradient Method for Convex-Concave Saddle Point Problems without Strong Convexity

Simon S. Du, Wei Hu|arXiv (Cornell University)|Feb 5, 2018

Advanced Optimization Algorithms Research被引用数 50

ひとこと要約

著者は、素朴な primal-dual 勾配法が凸-凹の鞍点問題に対して、 primal function が強凸でなくても、結合行列 A が全列 rank を持つ場合に線形収束することを証明します。

ABSTRACT

We consider the convex-concave saddle point problem $\\min_{x}\\max_{y} f(x)+y^\ op A x-g(y)$ where $f$ is smooth and convex and $g$ is smooth and strongly convex. We prove that if the coupling matrix $A$ has full column rank, the vanilla primal-dual gradient method can achieve linear convergence even if $f$ is not strongly convex. Our result generalizes previous work which either requires $f$ and $g$ to be quadratic functions or requires proximal mappings for both $f$ and $g$. We adopt a novel analysis technique that in each iteration uses a "ghost" update as a reference, and show that the iterates in the primal-dual gradient method converge to this "ghost" sequence. Using the same technique we further give an analysis for the primal-dual stochastic variance reduced gradient (SVRG) method for convex-concave saddle point problems with a finite-sum structure.

研究の動機と目的

• 大規模設定で1次法を用いて convex-concave 鞍点問題を解く動機付け。
• primal 強凸性がなくても全列ランクの結合 A の下で線形収束が達成可能であることを示す。
• 収束を証明するための ゴースト参照系列 を用いた新しい解析技法を提供。
• 有限和構造の primal-dual SVRG 法へ解析を拡張する。

提案手法

• f は滑らかで凸、 g は滑らかで強凸とする鞍点問題 min_x max_y f(x) + y^T A x - g(y) を研究する。
• Algorithm 1（ primal-dual 勾配更新 ）を用い、特定のパラメータ選択の下で線形収束を確立する。
• プライマル問題の勾配降下に対応するゴースト列を導入して収束を分析。
• ポテンシャル関数 P_t = λ a_t + b_t を定義し、 a_t = ||x_t - x*||、 b_t = ||y_t - ∇g^*(Ax_t)||、幾何的減衰を示す。
• 有限和問題に対して primal-dual SVRG 法を拡張し O((n + κ)d log(1/ε)) 程度の複雑さを証明。
• 収束の反復複雑性を詳述する系の系: O*(log(P_0/ε)) で ε 精度を達成。

実験結果

リサーチクエスチョン

• RQ1 プリムとする f が強凸でない場合でも、 g が強凸で A が全列ランクを持つとき、素朴な primal-dual 勾配法は線形収束を達成できるか。
• RQ2 有限和鞍点問題に対する SVRG 変種への収束解析はどのように拡張されるか。
• RQ3 滑らか性定数と A の条件数は、線形収束の保証とステップサイズ決定にどのような役割を果たすか。

主な発見

• 緩やかな滑らかさと凸性の仮定（f は ρ-smooth、f s.c.、g は α-強凹かつ β-smooth、rank(A) = d1）において、 primal-dual 勾配法は (x*, y*) に線形収束する。
• 新規のゴースト参照解析により、 primal の反復が primal 問題の勾配降下から生成されるゴースト列に向かって収束することが示され、 primal 強凸性なしで線形速度を可能にする。
• 有限和問題に対して primal-dual SVRG 法は O((n + κ)d log(1/ε)) の反復複雑性を達成し、滑らかで強凸目的の標準的な SVRG 速度に一致する。
• 経験的結果は、primal-dual 勾配法とその SVRG 変法の両方の線形収束を裏付け、特に高い条件数で SVRG がより速い速度を提供することを示す。