[論文レビュー] Randomized First-Order Methods for Saddle Point Optimization

Cong D. Dang, Guanghui Lan|arXiv (Cornell University)|Sep 30, 2014

Stochastic Gradient Optimization Techniques参考文献 48被引用数 26

ひとこと要約

本稿は、ブロック構造を持つ双対空間を有する saddle point 問題を解くための確率的プライマルデュアル（RPD）法を提案する。各反復で1つのランダムに選択されたデュアル部分問題のみを解く。一般の双線形問題に対しては O(1/N) の収束速度を達成し、滑らかさがある問題に対しては強凸性、有界な実行可能集合、または初期距離の推定を必要とせずに O(1/N²) の収束速度を達成する。

ABSTRACT

In this paper, we present novel randomized algorithms for solving saddle point problems whose dual feasible region is given by the direct product of many convex sets. Our algorithms can achieve an ${\cal O}(1/N)$ and ${\cal O}(1/N^2)$ rate of convergence, respectively, for general bilinear saddle point and smooth bilinear saddle point problems based on a new prima-dual termination criterion, and each iteration of these algorithms needs to solve only one randomly selected dual subproblem. Moreover, these algorithms do not require strongly convex assumptions on the objective function and/or the incorporation of a strongly convex perturbation term. They do not necessarily require the primal or dual feasible regions to be bounded or the estimation of the distance from the initial point to the set of optimal solutions to be available either. We show that when applied to linearly constrained problems, RPDs are equivalent to certain randomized variants of the alternating direction method of multipliers (ADMM), while a direct extension of ADMM does not necessarily converge when the number of blocks exceeds two.

研究の動機と目的

• データ解析や機械学習に現れる大規模な saddle point 問題に対して、反復毎に全データを走査することが非現実的であるような状況で、効率的な1次元法を開発すること。
• 2つ以上のブロックを有する問題では古典的ADMMが収束しないという限界を克服し、確率的代替手法を提案すること。
• 収束解析において強凸性、有界な実行可能集合、または最適解までの初期距離に関する事前知識の必要性を排除すること。
• 強凸性や有界性の仮定を最小限に抑え、非有界または非強凸問題に対しても収束速度を確立すること。
• 線形制約付き問題に対して、提案されたRPD法と確率的プロキシマルADMMの間の同値性を示すこと。

提案手法

• RPDアルゴリズムは各反復でデュアル分解から1つのブロック $ i_t $ を確率的に選択し、対応するデュアル変数とプライマル変数のみを更新する。
• 有界性や強凸性を要件としない収束速度解析を可能にする、新たなプライマルデュアル終了基準を用いる。
• 各反復では1つの部分問題を解く：選択されたプライマルブロック $ x_{i_t} $ におけるプロキシマル最小化の後、重み付き平均を用いたデュアル更新を行う。
• 収束を加速するために、適応的ステップサイズ $ au_t, ho_t, heta_t $ とモーメンタムに類似した項 $ ar{y}^{t+1} $ を導入する。
• 線形制約付き問題に適用した場合、この手法はプロキシマルADMMの確率的変種と等価であることが示された。
• 解析は、タイトな収束バウンドを可能にする、新しい双対ギャップに基づく終了基準を活用している。

実験結果

リサーチクエスチョン

• RQ1 強凸性や有界な実行可能集合を仮定しない一般の双線形 saddle point 問題に対して、確率的1次元法が O(1/N) の収束速度を達成できるか？
• RQ2 デュアル変数のブロック座標アプローチが、全ブロック法に比べて収束速度と計算効率で優れているか？
• RQ3 ADMMが失敗するような問題、特に3つ以上のブロックを有する問題に対しても、提案手法が収束を保証できるか？
• RQ4 滑らかな saddle point 問題に対して、確率的プライマルデュアル法の収束速度は何か？また、弱い仮定のもとで O(1/N²) を達成できるか？
• RQ5 確率的プライマルデュアル法とプロキシマルADMMの関係は何か？どのような条件下でこれらは等価となるか？

主な発見

• RPD法は、強凸性や有界な実行可能集合を仮定しない一般の双線形 saddle point 問題に対して O(1/N) の収束速度を達成する。
• 滑らかな双線形 saddle point 問題に対しては、最良の既知の確定的手法と同等の改善された O(1/N²) の収束速度を達成する。
• プライマルまたはデュアルの実行可能集合が非有界であっても、最適解までの初期距離の知識がなくても収束する。
• 実験結果から、Chenら[7]の反例において標準ADMMが失敗する状況でも、RPD法は最適解に収束することが示された（p=3ブロックでも有効）。
• 線形制約付き問題に対しては、RPD法はプロキシマルADMMの確率的変種と等価であり、標準ADMMが失敗する状況における収束可能な代替手法を提供する。
• 収束解析は、強凸性や有界性の仮定を不要とする、新しいプライマルデュアル終了基準に基づいている。