[论文解读] Complexity Lower Bounds for Nonconvex-Strongly-Concave Min-Max Optimization

Haochuan Li, Yi Tian+2 more|arXiv (Cornell University)|Apr 18, 2021

Stochastic Gradient Optimization Techniques参考文献 49被引用 10

一句话总结

本文为非凸-强凹极小极大优化问题建立了紧致的一阶预言机复杂度下界，证明确定性算法需要 $Ω(\sqrt{\kappa}\epsilon^{-2})$ 次查询，而随机算法需要 $Ω(\sqrt{\kappa}\epsilon^{-2} + \kappa^{1/3}\epsilon^{-4})$ 次查询才能找到 $ε$-驻点。结果表明，Lin 等人（2020b）提出的上界在对数因子意义下是紧致的，而在随机设置下，条件数依赖关系上界与下界之间仍存在显著差距。

ABSTRACT

We provide a first-order oracle complexity lower bound for finding stationary points of min-max optimization problems where the objective function is smooth, nonconvex in the minimization variable, and strongly concave in the maximization variable. We establish a lower bound of $Ω\left(\sqrtκε^{-2} ight)$ for deterministic oracles, where $ε$ defines the level of approximate stationarity and $κ$ is the condition number. Our analysis shows that the upper bound achieved in (Lin et al., 2020b) is optimal in the $ε$ and $κ$ dependence up to logarithmic factors. For stochastic oracles, we provide a lower bound of $Ω\left(\sqrtκε^{-2} + κ^{1/3}ε^{-4} ight)$. It suggests that there is a significant gap between the upper bound $\mathcal{O}(κ^3 ε^{-4})$ in (Lin et al., 2020a) and our lower bound in the condition number dependence.

研究动机与目标

• 为寻找非凸-强凹极小极大问题中近似驻点的预言机复杂度建立首个可证明的下界。
• 确定文献中已有的上界在精度参数 $\epsilon$ 和条件数 $\kappa$ 依赖关系上是否紧致。
• 分析随机预言机设置中已知上界与新下界之间的差距，特别是关于 $\kappa$-依赖关系。
• 构建显式的困难实例，使得任何一阶零尊重算法都必须执行一定最小次数的查询。

提出的方法

• 构建一个精心设计的困难实例 $\bar{f}^{\text{nc-sc}}$，其中 $\bm{x}$ 变量具有非凸性，$\bm{y}$ 变量具有强凹性，定义在有界超立方体上以确保梯度有界。
• 采用零尊重预言机框架，分析找到 $\epsilon$-驻点所需的最坏情况查询次数。
• 应用概率为 $p$ 的零链构造方法来建模随机预言机，确保方差有界的同时保持困难实例的结构。
• 通过反证法推导下界：若某算法表现优于推导出的下界，则会违反困难实例的结构。
• 通过分析维持有界方差所需的采样概率 $p$，将确定性下界扩展至随机情形。
• 通过与 Lin 等人（2020b）的上界在对数因子内匹配，证明确定性下界 $\Omega(\sqrt{\kappa}\epsilon^{-2})$ 是紧致的。

实验结果

研究问题

• RQ1 Lin 等人（2020b）提出的 $\tilde{\mathcal{O}}(\sqrt{\kappa}\epsilon^{-2})$ 上界在非凸-强凹极小极大问题的确定性一阶算法中是否最优？
• RQ2 该类问题的随机预言机复杂度的最紧下界是什么？
• RQ3 Lin 等人（2020a）在随机设置中提出的 $\mathcal{O}(\kappa^3\epsilon^{-4})$ 上界在 $\kappa$-依赖关系上是否最优？
• RQ4 该下界能否扩展至超越零尊重算法的任意（可能随机）算法？
• RQ5 在更一般的非凸-凹或非凸-非凹设置下，紧致的复杂度界是什么？

主要发现

• 确定性预言机复杂度下界为 $\Omega(\sqrt{\kappa}\epsilon^{-2})$，与 Lin 等人（2020b）的上界在对数因子内匹配。
• 在随机设置中，下界为 $\Omega(\sqrt{\kappa}\epsilon^{-2} + \kappa^{1/3}\epsilon^{-4})$，明显大于确定性情形。
• 下界 $\Omega(\kappa^{1/3}\epsilon^{-4})$ 与 Lin 等人（2020a）中上界 $\mathcal{O}(\kappa^3\epsilon^{-4})$ 之间的差距表明，上界中的条件数依赖关系是次优的。
• 困难实例构造确保在整个定义域上梯度范数有界，从而在存在非凸性和强凹性的情况下仍能进行有效的复杂度分析。
• 随机下界通过分析维持有界方差所需的采样概率 $p$ 推导得出，导致出现 $\Omega(\kappa^{1/3}\epsilon^{-4})$ 项。
• 结果表明，Lin 等人（2020b）中现有的算法在确定性设置下近乎最优，但 Lin 等人（2020a）中的随机算法在 $\kappa$-依赖关系上仍有改进空间。