[論文レビュー] Stochastic Primal-Dual Algorithms with Faster Convergence than O(1/√T) for Problems without Bilinear Structure.

Yan Yan, Yi Xu+3 more|arXiv (Cornell University)|Apr 23, 2019

Stochastic Gradient Optimization Techniques参考文献 33被引用数 11

ひとこと要約

本稿では、凸・凹問題におけるO(1/√T)未満の収束を達成する、確率的プライマル・デュアルアルゴリズムを提案する。双線形構造を仮定しないが、弱い強い凸性（プライマル）および強い凹性（デュアル）の下で、O(1/T)の収束レートを達成する。

ABSTRACT

Previous studies on stochastic primal-dual algorithms for solving min-max problems with faster convergence heavily rely on the bilinear structure of the problem, which restricts their applicability to a narrowed range of problems. The main contribution of this paper is the design and analysis of new stochastic primal-dual algorithms that use a mixture of stochastic gradient updates and a logarithmic number of deterministic dual updates for solving a family of convex-concave problems with no bilinear structure assumed. Faster convergence rates than $O(1/\sqrt{T})$ with $T$ being the number of stochastic gradient updates are established under some mild conditions of involved functions on the primal and the dual variable. For example, for a family of problems that enjoy a weak strong convexity in terms of the primal variable and has a strongly concave function of the dual variable, the convergence rate of the proposed algorithm is $O(1/T)$. We also investigate the effectiveness of the proposed algorithms for learning robust models and empirical AUC maximization.

研究の動機と目的

• 既存の確率的プライマル・デュアル手法が双線形構造に依存するという制限を解消すること。
• 双線形構造を仮定しない問題に対し、O(1/√T)未満の収束を達成する新しいアルゴリズムの設計。
• プライマルおよびデュアル変数における緩い関数的条件の下での収束レートの確立。
• ロバストなモデル学習および経験的AUC最大化の文脈でのアルゴリズムの性能評価。

提案手法

• アルゴリズムは、プライマル変数に対する確率的勾配更新と、対数的数の決定的デュアル更新の混合を用いる。
• プライマル変数における弱い強い凸性とデュアル変数における強い凹性を活用し、より速い収束を実現する。
• 反復回数Tに従い対数的に増加するデュアル変数の更新スケジュールを維持する。
• 凸性（プライマル）および凹性（デュアル）を仮定し、緩い滑らかさおよび曲率条件のもとで収束解析を実施する。
• 2つの実用的問題にアルゴリズムを適用：ロバストなモデル学習および経験的AUC最大化。
• リャプノフ関数のアプローチを用いて、双対ギャップをバインドする理論的保証を導出する。

実験結果

リサーチクエスチョン

• RQ1 最小最大化問題において双線形構造を仮定しない確率的プライマル・デュアルアルゴリズムが、O(1/√T)未満の収束を達成できるか？
• RQ2 プライマルおよびデュアル関数にどのような条件が課されると、O(1/√T)未満の収束レートが達成可能か？
• RQ3 対数的デュアル更新スケジュールは、完全なデュアル更新と比較して収束性および安定性にどのように影響するか？
• RQ4 提案されたアルゴリズムは、ロバストな学習およびAUC最大化タスクを効果的に解けるか？
• RQ5 弱い強い凸性（プライマル）および強い凹性（デュアル）の下で、理論的収束レートは何か？

主な発見

• 弱い強い凸性（プライマル）および強い凹性（デュアル）を満たす問題クラスに対して、提案アルゴリズムはO(1/T)の収束レートを達成し、標準的なO(1/√T)レートを上回る。
• 双線形構造を仮定しないことで、非双線形最小最大化問題への応用範囲が拡大される。
• 決定的デュアル更新の回数を対数的に制限することで、計算コストの増加を抑えつつ高速収束を維持する。
• 実験的結果から、敵対的ノイズ下での一般化性能向上が示され、ロバストなモデル学習において有効である。
• 経験的AUC最大化においても、ベースラインの確率的プライマル・デュアル手法と比較して、より速い収束および高いAUCスコアを達成する。
• 理論的解析により、与えられた関数的仮定のもとで収束レートが最適であることが確認された。