[论文解读] On the Lower Bound of Minimizing Polyak-Łojasiewicz Functions

Pengyun Yue, Cong Fang+1 more|arXiv (Cornell University)|Dec 27, 2022

Stochastic Gradient Optimization Techniques被引用 5

一句话总结

本文建立了任意一阶算法在寻找 $L$-光滑 Polyak-Łojasiewicz (PL) 函数的 $\varepsilon$-近似最小值点时，梯度评估次数的紧下界 $\Omega\left(\frac{L}{\mu}\log\frac{1}{\varepsilon}\right)$，该函数的 PL 常数为 $\mu$。该结果证明了梯度下降在最小化光滑 PL 函数时本质上是最优的，因为一般情况下，没有任何一阶方法能实现更快的收敛速率，从而将 PL 函数的复杂性与存在动量加速的强凸函数区分开来。

ABSTRACT

Polyak-Łojasiewicz (PL) [Polyak, 1963] condition is a weaker condition than the strong convexity but suffices to ensure a global convergence for the Gradient Descent algorithm. In this paper, we study the lower bound of algorithms using first-order oracles to find an approximate optimal solution. We show that any first-order algorithm requires at least $Ω\left(\frac{L}μ\log\frac{1}{\varepsilon} ight)$ gradient costs to find an $\varepsilon$-approximate optimal solution for a general $L$-smooth function that has an $μ$-PL constant. This result demonstrates the optimality of the Gradient Descent algorithm to minimize smooth PL functions in the sense that there exists a ``hard'' PL function such that no first-order algorithm can be faster than Gradient Descent when ignoring a numerical constant. In contrast, it is well-known that the momentum technique, e.g. [Nesterov, 2003, chap. 2] can provably accelerate Gradient Descent to ${O}\left(\sqrt{\frac{L}{\hatμ}}\log\frac{1}{\varepsilon} ight)$ gradient costs for functions that are $L$-smooth and $\hatμ$-strongly convex. Therefore, our result distinguishes the hardness of minimizing a smooth PL function and a smooth strongly convex function as the complexity of the former cannot be improved by any polynomial order in general.

研究动机与目标

• 确定是否存在更快的一阶算法用于最小化满足参数为 $\mu$ 的 Polyak-Łojasiewicz (PL) 条件的 $L$-光滑函数。
• 填补对动量或其他加速技术是否能改进标准梯度下降在 PL 函数上的收敛速率的理解空白。
• 建立在最小化光滑 PL 函数时，达到 $\varepsilon$-精度所需梯度评估次数的维度无关的极小极大下界。
• 正式区分最小化光滑 PL 函数与最小化光滑强凸函数在算法难度上的差异，后者已知动量加速是有效的。

提出的方法

• 构造一个精心设计的“零链”函数，迫使任意一阶算法一次只能解决一个坐标，从而在变量之间模拟出顺序依赖关系。
• 通过在函数的海森矩阵中使用递归结构，确保某一变量的梯度信息对其他变量的影响最小，从而实现每个坐标的优化过程相互隔离。
• 定义一组辅助变量 $\tilde{\mathbf{z}}_k$，并利用它们将梯度范数从下界与函数的曲率及 PL 条件联系起来。
• 建立支配条件 $\mathsf{Dominate}(k)$，用于追踪在 $t$ 次迭代后哪些坐标尚未充分接近其最优值。
• 证明：若某个坐标 $k$ 未被支配，则 $\mathbf{x}_k$ 处的梯度范数仍被下界控制为一个正常数，这意味着函数值差距无法低于 $\varepsilon$。
• 通过证明：在 $T$ 次迭代后，至少需要 $\Omega\left(\frac{L}{\mu}\log\frac{1}{\varepsilon}\right)$ 次梯度调用，才能使函数差距低于 $\varepsilon$，从而推导出下界。

实验结果

研究问题

• RQ1 是否存在任何一阶算法，其收敛速率能快于 $O\left(\frac{L}{\mu}\log\frac{1}{\varepsilon}\right)$，用于最小化 $L$-光滑 PL 函数？
• RQ2 标准梯度下降算法在最小化光滑 PL 函数时是否最优？或者动量等加速技术能否改进其收敛速率？
• RQ3 从一阶预言机复杂度的角度来看，最小化光滑 PL 函数的复杂性是否与最小化光滑强凸函数存在本质差异？
• RQ4 能否构造一个困难实例，使得没有任何一阶算法的收敛速度能比梯度下降快超过常数因子？

主要发现

• 任何一阶算法在寻找 $L$-光滑、$\mu$-PL 函数的 $\varepsilon$-近似解时，至少需要 $\Omega\left(\frac{L}{\mu}\log\frac{1}{\varepsilon}\right)$ 次梯度评估。
• 该下界与标准梯度下降的收敛速率完全匹配，证明了梯度下降在最小化光滑 PL 函数时至多相差一个常数因子，因此是最优的。
• 该结果表明，虽然动量加速在强凸函数中能严格提升收敛速度，但对一般光滑 PL 函数而言，无法实现更快的多项式收敛速率。
• 本文通过构造一个使用“零链”函数的困难实例，迫使算法按顺序处理各坐标，从而阻止变量间并行或加速的进展。
• 该下界是维度无关的，在高维设置下依然成立，且通过在 $L$-光滑、$\mu$-PL 函数类上的极小极大分析推导得出。
• 分析表明，尽管 PL 条件弱于强凸性，但仍对一阶方法构成根本性的复杂性障碍，无法被突破。