[論文レビュー] A primal-dual smoothing gap reduction framework for strongly convex-generally concave saddle point problems

Le Thi Khanh Hien, Renbo Zhao+1 more|arXiv (Cornell University)|Nov 10, 2017

Stochastic Gradient Optimization Techniques参考文献 25被引用数 10

ひとこと要約

本稿では、強い凸性を持つプライマル変数および一般の凹性を持つデュアル変数を有する鞍点問題を解くための、プライマル・デュアルスムージングギャップ低減フレームワークを提案する。このフレームワークは、決定的および確率的設定の両方で、高確率下で $O(1/\sqrt{\varepsilon})$ の最適収束速度を達成し、多数の成分や制約を有する大規模凸最適化問題に適用可能であり、最適性ギャップおよび制約違反の反復複雑度が同一のまま維持される。

ABSTRACT

In this paper, we propose a new approach for finding a saddle point of a function $\mathcal{L}(x,\lambda)$ which is strongly convex in $x$ and generally concave in $\lambda$. We prove that, in the deterministic setting, to obtain an $\varepsilon$-optimal solution, this class of algorithms achieves the convergence rate $O\left(1/{\sqrt{\varepsilon}} ight)$. In the stochastic setting, where we utilize fast first order randomized algorithms to solve the sub-problems of our framework, we prove that this class of algorithms preserves the convergence rate $O\left(1/{\sqrt{\varepsilon}} ight)$ with high probability. We then apply our general algorithm to a large-scale convex constrained optimization problem, where the objective function is strongly convex and it consists of a large number of component functions or the number of convex constraints is prodigious. We establish the overall iteration complexity $O\left(1/{\sqrt{\varepsilon}} ight)$ for the optimality gap and constraint violation.

研究の動機と目的

• プライマル変数に関して強い凸性、デュアル変数に関して一般の凹性を有する鞍点問題を解くための新しいアルゴリズム的フレームワークの開発。
• このフレームワークの決定的および確率的設定における収束速度の確立、特にノイズありまたは確率的サブプロブレム解法の下での性能。
• 多数の成分関数や制約を有する大規模凸最適化問題へのフレームワークの応用、最適性ギャップおよび制約違反の反復複雑度が効率的であることを保証すること。

提案手法

• フレームワークは、一般の凹性を有する鞍点関数の部分を扱うためにスムージング技術を採用し、より取り扱いやすい形に変換する。
• 反復的にプライマルとデュアルの反復間の双対ギャップを低減するギャップ低減メカニズムを導入する。
• 確率的設定では、サブプロブレムを効率的に解くために高速な一次元確率的アルゴリズムを用い、収束保証を維持する。
• プライマルとデュアルの進捗のバランスを保つように設計されたプライマル・デュアル更新スキームを採用し、弱い凹性仮定の下でも収束を保証する。
• プライマル変数における強い凸性を活用して収束を加速させるとともに、反復の安定化を図る。

実験結果

リサーチクエスチョン

• RQ1 決定的設定下で、プライマル・デュアルスムージングフレームワークは、強い凸性・一般の凹性を有する鞍点問題に対して $O(1/\sqrt{\varepsilon})$ の収束を達成できるか？
• RQ2 確率的設定下で、サブプロブレムが確率的一次元手法によって解かれる場合、フレームワークは同じ収束速度を維持するか？
• RQ3 多数の成分や制約を有する大規模凸最適化問題に適用した際の、フレームワークの全体的な反復複雑度は何か？
• RQ4 ギャップ低減メカニズムは、デュアル変数における一般の凹性下でも収束にどのように寄与するか？
• RQ5 大規模問題において、最適性ギャップと制約違反の両方が同じレート $O(1/\sqrt{\varepsilon})$ で収束させることができるか？

主な発見

• 提案されたフレームワークは、決定的設定下で、$\varepsilon$-最適な鞍点を求める収束速度 $O(1/\sqrt{\varepsilon})$ を達成する。
• 確率的設定下では、サブプロブレム解決に高速な一次元確率的アルゴリズムを用いる場合、高確率下で $O(1/\sqrt{\varepsilon})$ の収束速度を維持する。
• 多数の成分や制約を有する大規模凸最適化問題において、最適性ギャップおよび制約違反の全体的な反復複雑度は $O(1/\sqrt{\varepsilon})$ である。
• ギャップ低減メカニズムは、双対ギャップを効果的に制御し、デュアル関数が強く凹でない場合でも収束を可能にする。
• フレームワークは確率的サブプロブレム解法に対して頑健であり、デュアル関数に関する最小限の仮定の下でも理論的収束保証を維持する。