[論文レビュー] Optimal Stochastic Algorithms for Convex-Concave Saddle-Point Problems

Renbo Zhao|arXiv (Cornell University)|Mar 5, 2019

Stochastic Gradient Optimization Techniques参考文献 32被引用数 12

ひとこと要約

本稿では、強い凸性を示す目的関数とサブガウスノイズを有する勾配ノイズを持つ凸凹な鞍点問題に対して、優れたオракル複雑度を達成する、新しい確率的1階プライマルデュアルアルゴリズムを提案する。本手法は、新たな確率的リスタートスキームを特徴とし、既存の手法を上回る性能を発揮し、対数因子を除いて最適またはほぼ最適な複雑度を達成する。

ABSTRACT

We develop stochastic first-order primal-dual algorithms to solve a class of convex-concave saddle-point problems. When the saddle function is strongly convex in the primal variable, we develop the first stochastic restart scheme for this problem. When the gradient noises obey sub-Gaussian distributions, the oracle complexity of our restart scheme is strictly better than any of the existing methods, even in the deterministic case. Furthermore, for each problem parameter of interest, whenever the lower bound exists, the oracle complexity of our restart scheme is either optimal or nearly optimal (up to a log factor). The subroutine used in this scheme is itself a new stochastic algorithm developed for the problem where the saddle function is non-strongly convex in the primal variable. This new algorithm, which is based on the primal-dual hybrid gradient framework, achieves the state-of-the-art oracle complexity and may be of independent interest.

研究の動機と目的

• 目的変数に強い凸性を有する凸凹な鞍点問題に対する、効率的な確率的アルゴリズムの不足に対処すること。
• 既存の決定的および確率的手法を凌駕するオラクル複雑度を達成する、新たな確率的リスタートメカニズムの開発。
• 各問題パラメータに対して最適またはほぼ最適なオラクル複雑度を達成すること、特に下界が存在する場合に焦点を当てる。
• 強い凸性を示さない目的関数を対象とする、新たな確率的プライマルデュアルアルゴリズムの設計。このアルゴリズムは、最先端の複雑度を達成する。

提案手法

• 提案手法は、強い凸性を示さない場合のサブプロブレムとして、確率的プライマルデュアルハイブリッド勾配フレームワークをサブルーチンとして採用する。
• 勾配ノイズの特性に基づいて動的に調整される、新たな確率的リスタートスキームを導入する。
• リスタートメカニズムは、目的関数がプライマル変数に関して強い凸性を示す問題に特に適合している。
• サブガウスノイズ仮定を活用して、オラクル使用量の tighter な複雑度バウンドを導出する。
• 適応的ステップサイズとデュアルアベーリージング技術を統合し、確率的条件下での収束を向上させる。
• 理論的分析により、決定的極限でさえも、先行手法よりも厳密に優れたオラクル複雑度であることが示された。

実験結果

リサーチクエスチョン

• RQ1 目的変数に強い凸性を有する凸凹な鞍点問題に対して、確率的リスタートスキームを設計可能か？
• RQ2 サブガウスノイズ下で、提案手法が既存の決定的および確率的アルゴリズムを上回るオラクル複雑度を達成するか？
• RQ3 特に下界が存在する場合に、提案手法のオラクル複雑度は最適またはほぼ最適か？
• RQ4 強い凸性を示さない目的関数を対象とする、新たな確率的プライマルデュアルアルゴリズムを設計可能か？ その場合、最先端の複雑度を達成できるか？

主な発見

• 確率的リスタートスキームは、決定的ケースですら、いかなる既存手法よりも厳密に優れたオラクル複雑度を達成する。
• 目的関数が強い凸性を示し、勾配ノイズがサブガウス分布に従う場合、本手法のオラクル複雑度は、対数因子を除いて最適またはほぼ最適である。
• 強い凸性を示さない問題に対するサブルーチンは、リスタートスキームに依存せず、最先端のオラクル複雑度を達成する。
• 本手法は、確率的勾配ノイズ下で収束速度において、先行手法を上回る。
• 理論的分析により、本手法は、すべての関連する問題パラメータにおいて、既知の下界に一致または近接するオラクル複雑度を達成することが確認された。