[論文レビュー] A Randomized Block-Coordinate Primal-Dual Method for Large-scale Stochastic Saddle Point Problems

Erfan Yazdandoost Hamedani, Afrooz Jalilzadeh+1 more|arXiv (Cornell University)|Jul 8, 2019

Computational Geometry and Mesh Generation参考文献 36被引用数 4

ひとこと要約

本稿では、大規模な有限和型凸-凹な鞍点問題に対して、ランダム化ブロック更新と段階的分散低減を組み合わせた二重にランダム化されたブロック座標プライマル・デュアルアルゴリズムを提案する。収束速度として、既存の決定的手法と同等の $\/mathcal{O}(\log K / K)$ の有効収束率を達成し、鞍点への確実収束を確立する。

ABSTRACT

We consider (stochastic) convex-concave saddle point (SP) problems with high-dimensional decision variables, arising in various applications including machine learning problems. To contend with the challenges in computing full gradients, we employ a randomized block-coordinate primal-dual scheme in which randomly selected primal and dual blocks of variables are updated. We consider both deterministic and stochastic settings, where deterministic partial gradients and their randomly sampled estimates are used, respectively, at each iteration. We investigate the convergence of the proposed method under different blocking strategies and provide the corresponding complexity results. While the best-known computational complexity result for computing a saddle point with $\varepsilon$ primal-dual gap for deterministic primal-dual methods using full gradients is $\mathcal O(\max\{m,n\}^2/\varepsilon)$, where $m$ and $n$ denote the dimensions of primal and dual variables, respectively, we show that our proposed randomized block-coordinate method achieves an improved complexity of $\mathcal O(mn/\varepsilon)$ assuming a coordinate-friendly structure on the problem. Moreover, for the stochastic setting where a mini-batch sample gradient is utilized, we show a computational complexity of $ ilde{\mathcal{O}}(m^2n^2/\varepsilon^2)$ through acceleration. Finally, almost sure convergence of the iterate sequence to a saddle point is established.

研究の動機と目的

• 機械学習に現れる、ロバスト分類やカーネル行列学習などの大規模な有限和構造を持つ凸-凹な鞍点問題に対処すること。
• 非双線形な結合関数と多数のプライマル・デュアルブロック変数を扱える効率的なアルゴリズムの開発。
• 確率的勾配近似を用いても、対数因子を除いて決定的収束速度を達成すること。
• やや弱い仮定のもとで、反復列が鞍点に確実に収束することを確立すること。
• 分散低減技術をブロック座標型、非双線形な鞍点問題に拡張すること。

提案手法

• 各反復でランダムに選ばれたプライマル・デュアルブロックのペア $(i_k, j_k)$ を更新するランダム化ブロック座標スキームを採用する。
• 時間の経過とともにバッチサイズを増加させることで、段階的分散低減を実現し、確率的推定の分散を低減する。
• 収束性と適応性を向上させるために、ブロック固有のステップサイズ $\tau_i$ と $\sigma_j$ を導入する。
• 二重にランダム化されたフレームワークを適用：ブロックのランダム選択と有限和内の成分関数のランダムサンプリング。
• 非滑らか関数 $f_i$ と $h_j$ を取り扱うために、Bregman発散項を含むproximal型更新を適用する。
• 有限和型・非双線形な鞍点問題の構造を活用し、リャプノフ関数とギャップ指標を用いて収束を分析する。

実験結果

リサーチクエスチョン

• RQ1 ランダム化ブロック座標プライマル・デュアル法は、有限和型・非双線形な鞍点問題に対して、非漸近的収束速度 $\mathcal{O}(\log K / K)$ を達成できるか？
• RQ2 バッチサイズを段階的に増加させることによる段階的分散低減は、ブロック更新を伴う大規模な鞍点問題の収束を改善するか？
• RQ3 ブロックのランダム選択と確率的勾配を用いた場合に、反復列が鞍点に確実に収束するかを確立できるか？
• RQ4 提案手法の収束速度は、対数因子を除いて決定的プライマル・デュアルスキームと同等か？
• RQ5 ブロック固有のステップサイズとランダムブロック選択は、非双線形的・大規模な問題における収束にどのように影響するか？

主な発見

• 提案手法は分散低減を用いて、有限和型・非双線形な鞍点問題に対する専用手法として初めて $\mathcal{O}(\log K / K)$ の有効収束率を達成した。
• 単一サンプル勾配の場合、非漸近的収束速度 $\mathcal{O}(\log K / \sqrt{K})$ を得た。これは確率的手法における最高水準のレートと一致する。
• ブロック選択プロセスがマルコフ連鎖において単一の再帰的クラスを形成するという仮定のもとで、反復列が鞍点に確実に収束することが証明された。
• 収束解析により、ギャップ指標が $\mathcal{O}(\log K / K)$ の速度で減少することが示され、対数因子を除いて既存の決定的手法の最良レートと一致する。
• ロバスト分類やカーネル行列学習に生じるような、多数の制約や非双線形結合項を含む問題にも適用可能である。
• 理論的結果はリャプノフ関数とギャップベースの解析により裏付けられ、やや弱い微分可能性および凸性の仮定のもとで収束が証明された。