[论文解读] Can We Find Near-Approximately-Stationary Points of Nonsmooth Nonconvex Functions?

Ohad Shamir|arXiv (Cornell University)|Feb 27, 2020

Stochastic Gradient Optimization Techniques参考文献 26被引用 7

一句话总结

本文研究了黑箱算法是否能够找到非光滑非凸函数的近似平稳点，表明即使这一放宽的目标在有限时间内也通常无法实现。论文证明，由于梯度的突变，基于梯度的标准方法无法可靠地定位接近 $\epsilon$-平稳点的点，揭示了在非光滑优化中即使放宽平稳性定义也存在根本性限制。

ABSTRACT

It is well-known that given a bounded, smooth nonconvex function, standard gradient-based methods can find $ε$-stationary points (where the gradient norm is less than $ε$) in $\mathcal{O}(1/ε^2)$ iterations. However, many important nonconvex optimization problems, such as those associated with training modern neural networks, are inherently not smooth, making these results inapplicable. Moreover, as recently pointed out in Zhang et al. [2020], it is generally impossible to provide finite-time guarantees for finding an $ε$-stationary point of nonsmooth functions. Perhaps the most natural relaxation of this is to find points which are near such $ε$-stationary points. In this paper, we show that even this relaxed goal is hard to obtain in general, given only black-box access to the function values and gradients. We also discuss the pros and cons of alternative approaches.

研究动机与目标

• 研究黑箱算法是否能够找到非光滑非凸函数的近似平稳点。
• 评估在仅能访问函数值和梯度的情况下，有限时间算法定位接近 $\epsilon$-平稳点的可行性。
• 评估现有宽松平稳性定义（如 $(\delta,\epsilon)$-平稳性）在捕捉有意义平稳行为方面的局限性。
• 探索可为非光滑非凸问题提供有限时间算法保证的替代平稳性概念。
• 展示即使如 $(\delta,\epsilon)$-平稳性这类宽松定义，也可能因梯度的凸包行为而无法反映直观或实际的平稳性。

提出的方法

• 使用凸包定义 $(\delta,\epsilon)$-平稳性，分析某点 $\delta$-邻域内梯度集的行为。
• 在 $\mathbb{R}^2$ 上构造一个 $2\pi$--Lipschitz 且可微的反例函数，其中原点为 $(\delta,0)$-平稳点，但其 $\delta$-邻域内所有梯度的范数至少为 1。
• 通过随机化约化方法证明，在特定条件下，任何黑箱算法都无法区分一个无 $\epsilon$-平稳点的函数与一个有此类点的函数。
• 采用函数 $h_{\mathbf{w}}(\mathbf{x})$，其在所有算法迭代点上均为 $7$-Lipschitz 且正值，而 $\epsilon$-平稳点的函数值为 $-1$，从而证明到任一此类点的距离下界。
• 表明即使对 $(\delta,\epsilon)$-平稳性有维度无关的保证，该定义仍无法反映实际接近小梯度的程度。
• 考虑了 Moreau-Yosida 和 Lasry-Lions 正则化等替代平滑技术，但指出这些方法在一般情况下计算上不可行。

实验结果

研究问题

• RQ1 黑箱算法是否能在有限时间内保证找到非光滑非凸函数的 $\epsilon$-平稳点附近点？
• RQ2 Zhang 等人（2020）提出的 $(\delta,\epsilon)$-平稳性定义是否足以确保接近实际 $\epsilon$-平稳点？
• RQ3 在仅使用黑箱访问的情况下，基于梯度的方法在非光滑非凸优化中存在哪些根本性限制？
• RQ4 能否通过替代平滑或平稳性定义，在不依赖梯度凸包的前提下，获得更好的算法保证？
• RQ5 为何标准平滑技术在非光滑非凸函数中无法保持有意义的平稳性？

主要发现

• 仅通过黑箱访问函数值和梯度，对非光滑非凸函数寻找接近 $\epsilon$-平稳点的有限时间保证在一般情况下是不可能的。
• 本文构造了一个在 $\mathbb{R}^2$ 上可微且 $2\pi$-Lipschitz 的函数，其中原点为 $(\delta,0)$-平稳点，但其 $\delta$-邻域内所有梯度的范数至少为 1。
• 由于函数 $h_{\mathbf{w}}$ 为 $7$-Lipschitz 且在所有迭代点上为正，而 $\epsilon$-平稳点的函数值为 $-1$，因此任何算法迭代点到 $\epsilon$-平稳点的距离至少为 $\frac{1}{7}$。
• 尽管 $(\delta,\epsilon)$-平稳性定义具有维度无关性且在算法上实用，但反例表明它并不能保证某点接近实际 $\epsilon$-平稳点。
• 基于平滑函数期望梯度的替代定义 $\widetilde{\delta,\epsilon}$-平稳性，仍无法排除反直觉的行为。
• 即使知名的平滑方法如 Lasry-Lions 正则化，在一般情况下也难以高效计算，限制了其在算法保证中的实际应用。