[论文解读] The Complexity of Nonconvex-Strongly-Concave Minimax Optimization

Siqi Zhang, Junchi Yang+3 more|University of Twente Research Information|Mar 29, 2021

Sparse and Compressive Sensing Techniques参考文献 76被引用 10

一句话总结

本文为非凸-强凹（NC-SC）极小极大问题建立了紧致的下界复杂度，并提出了一种新颖的加速方案，通过现有基于梯度的方法求解一系列强凸-强凹子问题。该方法在一般设置下几乎匹配下界，在有限和设置下实现了近乎紧致的条件数依赖，解决了长期存在的已知上界与下界之间的差距。

ABSTRACT

This paper studies the complexity for finding approximate stationary points of nonconvex-strongly-concave (NC-SC) smooth minimax problems, in both general and averaged smooth finite-sum settings. We establish nontrivial lower complexity bounds of $Ω(\sqrtκΔLε^{-2})$ and $Ω(n+\sqrt{nκ}ΔLε^{-2})$ for the two settings, respectively, where $κ$ is the condition number, $L$ is the smoothness constant, and $Δ$ is the initial gap. Our result reveals substantial gaps between these limits and best-known upper bounds in the literature. To close these gaps, we introduce a generic acceleration scheme that deploys existing gradient-based methods to solve a sequence of crafted strongly-convex-strongly-concave subproblems. In the general setting, the complexity of our proposed algorithm nearly matches the lower bound; in particular, it removes an additional poly-logarithmic dependence on accuracy present in previous works. In the averaged smooth finite-sum setting, our proposed algorithm improves over previous algorithms by providing a nearly-tight dependence on the condition number.

研究动机与目标

• 为寻找非凸-强凹（NC-SC）光滑极小极大问题中的近似平稳点建立非平凡的下界复杂度。
• 在一般设置和平均光滑有限和设置下，识别现有上界与真实复杂度极限之间的差距。
• 设计一种新型加速方案，几乎匹配所推导的下界，在条件数和精度依赖方面优于先前算法。
• 弥合已知上界与 NC-SC 极小极大优化理论极限之间的差距，特别是在条件数和精度依赖方面。

提出的方法

• 通过从非凸光滑最小化问题的约化推导下界复杂度，在一般设置下建立 $\tilde{\theta}(\text{polylog}(\frac{1}{\rho}))$ 的依赖关系。
• 提出一种通用的加速框架，通过现有基于梯度的方法求解一系列精心设计的强凸-强凹子问题。
• 引入一种新颖的子问题公式，采用正则化极小极大目标，以确保 $x$ 的强凸性和 $y$ 的强凹性。
• 采用带自适应步长和类似动量更新的递归下降策略，加速每个子问题中的收敛。
• 使用双层循环结构：外层控制平稳点的精度，内层将每个子问题求解到足够精度。
• 在每个子问题中采用对数数量级的迭代次数，实现在内层循环中的指数收敛，复杂度由条件数和光滑性参数决定。

实验结果

研究问题

• RQ1 在非凸-强凹极小极大问题中，寻找 $\\-\epsilon$-平稳点的根本复杂度极限是什么？
• RQ2 条件数 $\kappa$ 如何影响 NC-SC 极小极大问题中的收敛速率？
• RQ3 能否系统性地改进现有算法，以实现对 $\kappa$、$\epsilon$ 和 $n$ 几乎最优的依赖？
• RQ4 在 NC-SC 极小极大优化中，最佳已知上界与理论下界之间是否存在差距？
• RQ5 能否设计一种通用的加速方案，在一般设置和有限和设置下几乎匹配所推导的下界？

主要发现

• 本文在一般设置下建立了 $\Omega(\sqrt{\kappa}\Delta L\epsilon^{-2})$ 的下界复杂度，揭示了与先前上界之间的显著差距。
• 在平均光滑有限和设置下，下界为 $\Omega(n + \sqrt{n\kappa}\Delta L\epsilon^{-2})$，比之前结果更紧致。
• 所提出的算法在一般设置下实现了 $\tilde{O}(\sqrt{\kappa}\Delta L\epsilon^{-2})$ 的复杂度，几乎匹配下界，并消除了额外的 $\text{polylog}(1/\epsilon)$ 因子。
• 在有限和设置下，算法实现了 $\tilde{O}((n + n^{3/4}\sqrt{\kappa})\Delta L\epsilon^{-2})$ 的复杂度，相较于先前工作在 $\kappa$ 依赖上近乎紧致。
• 该方法解决了 NC-SC 极小极大优化中长期存在的已知上界与理论极限之间的差距。
• 该加速方案具有通用性，可应用于任何用于求解子问题的基于梯度的方法，因而具有广泛适用性。