[論文レビュー] Iteration Complexity of Randomized Primal-Dual Methods for Convex-Concave Saddle Point Problems

Erfan Yazdandoost Hamedani, Afrooz Jalilzadeh+2 more|arXiv (Cornell University)|Jun 11, 2018

Stochastic Gradient Optimization Techniques参考文献 23被引用数 15

ひとこと要約

本稿では、座標方向および結合項を含む複合構造を有する大規模な凸・凹な鞍点問題に対する確率的プライマル・デュアル法を提案する。関数 $Φ$ にやや強い滑らかさ仮定を課した場合、凸ケースでは $Ó(m/k)$ のエルゴディック収束速度を達成し、プライマル関数が一様に強い凸性を示す場合には $Ó(m/k^2)$ となる。既存手法と比較して、反復複雑度が向上していることを示している。

ABSTRACT

In this paper we propose a class of randomized primal-dual methods to contend with large-scale saddle point problems defined by a convex-concave function $\mathcal{L}(\mathbf{x},y) riangleq\sum_{i=1}^m f_i(x_i)+\Phi(\mathbf{x},y)-h(y)$. We analyze the convergence rate of the proposed method under the settings of mere convexity and strong convexity in $\mathbf{x}$-variable. In particular, assuming $ abla_y\Phi(\cdot,\cdot)$ is Lipschitz and $ abla_\mathbf{x}\Phi(\cdot,y)$ is coordinate-wise Lipschitz for any fixed $y$, the ergodic sequence generated by the algorithm achieves the convergence rate of $\mathcal{O}(m/k)$ in a suitable error metric where $m$ denotes the number of coordinates for the primal variable. Furthermore, assuming that $\mathcal{L}(\cdot,y)$ is uniformly strongly convex for any $y$, and that $\Phi(\cdot,y)$ is linear in $y$, the scheme displays convergence rate of $\mathcal{O}(m/k^2)$. We implemented the proposed algorithmic framework to solve kernel matrix learning problem, and tested it against other state-of-the-art solvers.

研究の動機と目的

• 機械学習および最適化分野で生じる大規模な凸・凹な鞍点問題に対処すること。
• プライマルおよびデュアル変数に分離可能項と結合項を有する問題を効率的に処理できる確率的プライマル・デュアルアルゴリズムの開発。
• 反復回数 $k$ および座標数 $m$ の観点から収束の反復複雑度の境界を確立すること。
• プライマル変数に対して単なる凸性および強い凸性の仮定の下での収束解析。
• カーネル行列学習の分野における実験的評価を通じて、最先端のソルバーと比較して本手法の有効性を検証すること。

提案手法

• プライマル変数 $·bf{x}$ に対して確率的座標更新を用い、デュアル変数 $y$ は勾配ステップで更新する。
• $ abla_y\Phi(\cdot,\cdot)$ がリプシッツ連続であり、固定された $y$ に対して $ abla_\mathbf{x}\Phi(\cdot,y)$ が座標方向にリプシッツ連続であると仮定する。
• 収束速度を確立するために、適切な誤差指標を用いてエルゴディック反復列を解析する。
• プライマル関数が一様に強い凸性を示す場合、$ abla(\cdot,y)$ の線形結合性を活用することで、$ abla(\cdot,y)$ を用いた高速な $ abla(\cdot,y)$ 収束が達成される。
• 構造的 $ abla(\cdot,y)$ を有する問題としてカーネル行列学習を鞍点問題に定式化し、本手法を適用する。
• 特に $m$ が大きい場合に計算コストを低減できるように、確率的更新スキームを採用する。

実験結果

リサーチクエスチョン

• RQ1 分離可能項および結合項を有する凸・凹な鞍点問題に対して、確率的プライマル・デュアル法の反復複雑度は何か？
• RQ2 凸性仮定の下で、収束速度は座標数 $m$ および反復回数 $k$ にどのように依存するか？
• RQ3 プライマル関数が一様に強い凸性を示す場合、より高速な収束が達成可能か？
• RQ4 $\Phi(\cdot,y)$ の構造が収束速度に果たす役割は何か？
• RQ5 実際の応用において、本手法は最先端のソルバーと比較してどのように性能を発揮するか？

主な発見

• 単なる凸性およびリプシッツ滑らかさの仮定の下で、アルゴリズムは $\mathcal{O}(m/k)$ のエルゴディック収束速度を達成する。
• プライマル関数が一様に強い凸性を示し、かつ $ abla(\cdot,y)$ が $y$ に関して線形である場合、収束速度は $ abla(\cdot,y)$ に改善され、$ abla(\cdot,y)$ に達する。
• 収束速度は明示的に座標数 $m$ に依存しており、問題次元に応じたスケーラビリティを示している。
• 標準的な部分勾配法と比較して、鞍点問題に対する反復複雑度が向上している。
• カーネル行列学習における実験的結果から、最先端のソルバーと同等の性能を示している。
• 理論的境界はタイトであり、座標方向の滑らかさおよび強い凸性の影響を的確に反映している。