[論文レビュー] The Complexity of Nonconvex-Strongly-Concave Minimax Optimization

Siqi Zhang, Junchi Yang+3 more|University of Twente Research Information|Mar 29, 2021

Sparse and Compressive Sensing Techniques参考文献 76被引用数 10

ひとこと要約

この論文は、非凸・強い凹性（NC-SC）最小最大化問題におけるタイトな下界を確立し、既存の勾配ベースの手法を用いて一連の強い凸・強い凹な部分問題を解く、新しい加速スキームを提案する。一般設定では下界にほぼ一致し、有限和設定ではほぼタイトな条件数依存性を達成し、長年の上界と下界のギャップを解消する。

ABSTRACT

This paper studies the complexity for finding approximate stationary points of nonconvex-strongly-concave (NC-SC) smooth minimax problems, in both general and averaged smooth finite-sum settings. We establish nontrivial lower complexity bounds of $Ω(\sqrtκΔLε^{-2})$ and $Ω(n+\sqrt{nκ}ΔLε^{-2})$ for the two settings, respectively, where $κ$ is the condition number, $L$ is the smoothness constant, and $Δ$ is the initial gap. Our result reveals substantial gaps between these limits and best-known upper bounds in the literature. To close these gaps, we introduce a generic acceleration scheme that deploys existing gradient-based methods to solve a sequence of crafted strongly-convex-strongly-concave subproblems. In the general setting, the complexity of our proposed algorithm nearly matches the lower bound; in particular, it removes an additional poly-logarithmic dependence on accuracy present in previous works. In the averaged smooth finite-sum setting, our proposed algorithm improves over previous algorithms by providing a nearly-tight dependence on the condition number.

研究の動機と目的

• 非凸・強い凹（NC-SC）スムーズ最小最大化問題における近似停留点を求めるための非自明な下界複雑度を確立すること。
• 一般設定および平均滑らか有限和設定の両方において、既存の上界と真の複雑度限界とのギャップを特定すること。
• 導出された下界にほぼ一致する新しい加速スキームを設計し、条件数および精度依存性において従来のアルゴリズムを改善すること。
• NC-SC最小最大化最適化における既知の上界と理論的限界とのギャップを、特に条件数および精度依存性の観点から解消すること。

提案手法

• 非凸スムーズ最小化への還元を用いて下界を導出し、一般設定において $\tilde{\theta}(\text{polylog}(\frac{1}{\rho}))$ の依存性を確立する。
• 既存の勾配ベースの手法を用いて、設計された強い凸・強い凹な部分問題の系列を解く汎用的加速フレームワークを提案する。
• $x$ における強い凸性と $y$ における強い凹性を保証するため、正則化された最小最大化目的関数を導入する新しい部分問題定式化を提案する。
• 各部分問題における収束を加速するために、適応的ステップサイズとモーメンタム型更新を用いた再帰的降下戦略を採用する。
• 二重ループ構造を採用：外側のループが停留点の精度を制御し、内側のループが各部分問題を十分な精度で解く。
• 内側ループでは、条件数および滑らかさパラメータに従って支配される指数的収束を達成するため、部分問題ごとに対数的数の反復を適用する。

実験結果

リサーチクエスチョン

• RQ1 非凸・強い凹最小最大化問題において、$\\-\epsilon$-停留点を求めるための根本的複雑度限界は何か？
• RQ2 条件数 $\kappa$ は NC-SC 最小最大化問題における収束レートにどのように影響するか？
• RQ3 既存のアルゴリズムを体系的に改善することで、$\kappa$、$\epsilon$、$n$ にほぼ最適な依存性を達成できるか？
• RQ4 NC-SC 最小最大化最適化において、最高の既知の上界と理論的下界との間にギャップは存在するか？
• RQ5 一般設定および有限和設定の両方において、導出された下界にほぼ一致する汎用的加速スキームを設計できるか？

主な発見

• 一般設定において、下界が $\Omega(\sqrt{\kappa}\Delta L\epsilon^{-2})$ であることを確立し、従来の上界と顕著なギャップを明らかにする。
• 平均滑らか有限和設定では、下界が $\Omega(n + \sqrt{n\kappa}\Delta L\epsilon^{-2})$ であり、以前の結果よりもタイトである。
• 提案されたアルゴリズムは、一般設定で $\tilde{O}(\sqrt{\kappa}\Delta L\epsilon^{-2})$ の複雑度を達成し、下界にほぼ一致し、$\text{polylog}(1/\epsilon)$ 要素の余分な要因を除去する。
• 有限和設定では、$\tilde{O}((n + n^{3/4}\sqrt{\kappa})\Delta L\epsilon^{-2})$ の複雑度を達成し、条件数にほぼタイトな依存性を持つ既存手法を改善する。
• この手法により、NC-SC 最小最大化最適化における長年の上界と理論的限界のギャップが解消される。
• 加速スキームは汎用的であり、部分問題を解く任意の勾配ベース手法に適用可能で、広範な適用可能性を有する。