[論文レビュー] Optimal Algorithms for Stochastic Three-Composite Convex-Concave Saddle Point Problems

Renbo Zhao|arXiv (Cornell University)|Mar 5, 2019

Stochastic Gradient Optimization Techniques被引用数 5

ひとこと要約

本稿では、三重複合凸・凹な鞍点問題を解くための新しい確率的1階プライマル・デュアルアルゴリズムを提示する。強い凸性を持つプライマル変数に対して、初めての確率的リスタートスキームを導入する。サブガウスノイズの下で、既存の手法よりも厳密に優れたオракル複雑度を達成し、対数要因を除いて既知の下界に一致または近接する。

ABSTRACT

We develop stochastic first-order primal-dual algorithms to solve a class of convex-concave saddle-point problems. When the saddle function is strongly convex in the primal variable, we develop the first stochastic restart scheme for this problem. When the gradient noises obey sub-Gaussian distributions, the oracle complexity of our restart scheme is strictly better than any of the existing methods, even in the deterministic case. Furthermore, for each problem parameter of interest, whenever the lower bound exists, the oracle complexity of our restart scheme is either optimal or nearly optimal (up to a log factor). The subroutine used in this scheme is itself a new stochastic algorithm developed for the problem where the saddle function is non-strongly convex in the primal variable. This new algorithm, which is based on the primal-dual hybrid gradient framework, achieves the state-of-the-art oracle complexity and may be of independent interest.

研究の動機と目的

• 確率的三重複合凸・凹な鞍点問題を、より良い収束保証で解く挑戦に取り組む。
• プライマル成分が強い凸性を示す問題に特化した、確率的リスタートメカニズムを開発する。
• すべての関連する問題パラメータにわたって、対数要因を除いて最適またはほぼ最適なオラクル複雑度を達成する。
• 非強い凸プライマルケースを想定した、新しい確率的プライマル・デュアルアルゴリズムを設計し、最先端の複雑度を達成する。

提案手法

• 提案手法は、非強い凸設定において、確率的プライマル・デュアルハイブリッド勾配フレームワークをサブルーチンとして採用する。
• 強い凸プライマルケースに対して、反復的再初期化を活用した、新規の確率的リスタートスキームを導入する。
• 問題パラメータに動的に適応することで、対数要因を除いてタイトな複雑度バウンドを保証する。
• サブガウスノイズ仮定を用いて、改善されたオラクル複雑度バウンドを導出する。
• プライマル・デュアル更新とバリアンス低減技術を組み合わせることで、安定性と収束性を向上させる。
• 理論的分析により、問題クラスにおける既知の下界に一致またはほぼ一致する複雑度バウンドを確立する。

実験結果

リサーチクエスチョン

• RQ1 強い凸プライマル成分を有する凸・凹な鞍点問題に対して、確率的リスタートスキームを設計できるか？
• RQ2 サブガウスノイズ下で、このような問題の最適なオラクル複雑度は何か？
• RQ3 ノイズが存在する状況で、提案手法は決定的手法と比較して複雑度においてどのように異なるか？
• RQ4 非強い凸ケースに対して、最先端の複雑度を達成する新しい確率的プライマル・デュアルアルゴリズムを開発できるか？
• RQ5 提案手法は、既知の理論的下界にどの程度一致または近接するか？

主な発見

• 提案された確率的リスタートスキームは、すべての既存手法、すなわち決定的設定ですら、厳密に優れたオラクル複雑度を達成する。
• 下界が存在するすべての問題パラメータにおいて、オラクル複雑度は最適、または対数要因を除いて最適である。
• 非強い凸プライマル問題に対するサブルーチンは、そのクラスで最先端のオラクル複雑度を達成する。
• サブガウスノイズ仮定の下で、この手法の複雑度は対数要因を除いて最適である。
• 理論的分析により、すべての関連する問題領域において、アルゴリズムが既知の下界に一致またはほぼ一致することが確認された。