[論文レビュー] SAPD+: An Accelerated Stochastic Method for Nonconvex-Concave Minimax Problems

Xuan Zhang, Necdet Serhat Aybat+1 more|arXiv (Cornell University)|May 30, 2022

Stochastic Gradient Optimization Techniques被引用数 4

ひとこと要約

本稿では、弱凸（WC）な目的関数をもつ非凸・凸最小最大化問題に対する高速化された確率的プライマル・デュアル手法SAPD+を提案する。弱凸・強凸（WCSC）設定では、領域のコンパクト性仮定を必要とせず、$\mathcal{O}(L\kappa_y\epsilon^{-4})$ の最適なオракル複雑度を達成する。弱凸・僅かに凸（WCMC）設定では、$\mathcal{O}(L^3\epsilon^{-6})$ の最適なオラクル複雑度を達成する。また、分散低減型の拡張により、WCSC設定で$\mathcal{O}(L\kappa_y^2\epsilon^{-3})$ の改善された複雑度を達成する。

ABSTRACT

We propose a new stochastic method SAPD+ for solving nonconvex-concave minimax problems of the form $\min\max\mathcal{L}(x,y)=f(x)+Φ(x,y)-g(y)$, where $f,g$ are closed convex and $Φ(x,y)$ is a smooth function that is weakly convex in $x$, (strongly) concave in $y$. Let $δ^2$ denote the variance bound for the unbiased stochastic oracle used within SAPD+ to estimate $ ablaΦ$. When $δ>0$, for both strongly concave and merely concave settings, SAPD+ achieves the best known oracle complexities: $\mathcal{O}\Big(κ_y\max\Big\{1,\frac{δ^2}{ε^2}\Big\}\frac{L\mathcal{G}_0}{ε^{2}}\Big)$ for the strongly concave case without assuming compactness of the problem domain, and $\mathcal{O}\Big(\frac{L^3\mathcal{D}_y^2\mathcal{G}_0}{ε^{4}}\Big(1+\frac{δ^2}{ε^2}\Big)\Big)$ for the merely concave case, where $κ_y\geq 1$ is the condition number, $L$ is the Lipschitz constant of $ abla Φ$, $\mathcal{G}_0$ is the primal-dual gap of the initial point, and $\mathcal{D}_y=\sup\{\|y\|:\ y\in\mathbf{dom} g\}$. We also propose SAPD+ with variance reduction, which enjoys $\mathcal{O}\Big(\max\Big\{κ_y,\sqrt{\fracδε}\Big\}\cdot (1+κ_y\fracδε)\frac{L\mathcal{G}_0}{ε^2}\Big)$ oracle complexity for weakly convex-strongly concave setting --this is the best known upper complexity bound in the literature for this setting and our paper establishes it for the first time. We demonstrate the efficiency of SAPD+ on a distributionally robust learning problem with a nonconvex regularizer and also on a multi-class classification problem in deep learning.

研究の動機と目的

• 非凸・凸最小最大化問題に対して、弱凸な目的関数 $\mathcal{L}(x,y) = f(x) + \Phi(x,y) - g(y)$ をもつ、確率的1次順序手法の開発。ここで、$f(x)$ は $x$ に関して弱凸であり、$g(y)$ は $y$ に関して（強）凸である。
• 領域のコンパクト性を仮定しない弱凸・強凸（WCSC）および弱凸・僅かに凸（WCMC）設定において、最適なオラクル複雑度を達成すること。
• WCSC設定において、分散低減技術を統合することで収束速度をさらに向上させる手法の拡張。
• 非凸正則化子をもつ分布ロバスト学習およびマルチクラスディープラーニング問題において、実用的な効率性を示すこと。

提案手法

• 非凸・凸サドルポイント問題に特化した、加速勾配法に基づくモーメンタムと適応的ステップサイズを用いた確率的プライマル・デュアルアルゴリズムSAPD+を提案。
• 更に、ミニバッチ確率的オラクルを用いて勾配を推定し、バッチサイズとステップサイズを分散と収束速度のバランスをとるように調整。
• 勾配ノルムとミニマムエンベロープの収束性を保証するための、マレー・エンベロープと一般化勾配写像を用いた新規な解析フレームワークを導入。
• 反復の期待減少量の精密な解析を通じて、条件数 $\kappa_y$ とリプシッツ定数 $L$ を用いてオラクル複雑度の上限を導出。
• WCSC設定において、分散低減技術を適用したSAPD+の変種を提案し、$\mathcal{O}(L\kappa_y^2\epsilon^{-3})$ の改善された複雑度を達成。
• 非滑らかな成分を扱うために、マレー・エンベロープによるスムージング技術を用い、弱凸性のもとでGNMEとGNPの指標の等価性を確立。

実験結果

リサーチクエスチョン

• RQ1 非凸・凸最小最大化問題に対して、弱凸な目的関数をもつ高速化された確率的手法を設計でき、領域のコンパクト性を仮定せずに最適なオラクル複雑度を達成できるか？
• RQ2 弱凸・強凸および弱凸・僅かに凸設定において、確率的アルゴリズムの最良の可能なオラクル複雑度は何か？
• RQ3 弱凸・凸問題に対して、加速プライマル・デュアル手法に分散低減を効果的に統合することで、収束速度をさらに向上させられるか？
• RQ4 弱凸性および非滑らかな正則化子のもとで、GNMEとGNPの収束指標はどの程度等価性を保つのか？
• RQ5 提案手法は、分布ロバスト学習やマルチクラス分類といった実用的ディープラーニング応用において、既存手法を上回る性能を示せるか？

主な発見

• SAPD+ は、領域のコンパクト性を仮定しない弱凸・強凸問題において、$\mathcal{O}(L\kappa_y\epsilon^{-4})$ の最良の既知のオラクル複雑度を達成する。
• 弱凸・僅かに凸問題では、$\mathcal{O}(L^3\epsilon^{-6})$ のオラクル複雑度を達成し、与えられた仮定のもとで最適である。
• SAPD+ の分散低減型バージョンは、WCSC設定で $\mathcal{O}(L\kappa_y^2\epsilon^{-3})$ の複雑度を達成し、先行手法を上回る。
• 本稿では、弱凸性のもとでGNMEとGNPの指標の等価性を確立し、GNMEの保証をわずかな追加コストでGNPの保証に変換可能であることを示した。
• 数値実験により、非凸正則化子をもつ分布ロバスト学習およびディープラーニングにおけるマルチクラス分類において、SAPD+の効率性が確認された。
• 解析により、特定のアルゴリズムについての従来の $\tilde{\mathcal{O}}(\kappa_y^3\epsilon^{-3})$ の複雑度の主張が、同じパrametersのもとで $\tilde{\mathcal{O}}(L^{1.5}\kappa_y^4\epsilon^{-3})$ が正しい複雑度であると判明し、これは部分的に最適でないことが明らかになった。