[论文解读] Nesterov's acceleration and Polyak's heavy ball method in continuous time: convergence rate analysis under geometric conditions and perturbations

Othmane Sebbouh, Charles Dossal+1 more|arXiv (Cornell University)|Jul 5, 2019

Sparse and Compressive Sensing Techniques参考文献 22被引用 7

一句话总结

本文通过带有时变阻尼和扰动的二阶常微分方程，研究了连续时间下Nesterov加速梯度法与Polyak的动量法的收敛速率。在Łojasiewicz性质和扰动可积性等几何条件下，本文为尖锐与平坦几何情形均建立了改进的收敛速率，统一分析了惯性与扰动优化方案。

ABSTRACT

In this article a family of second order ODEs associated to inertial gradient descend is studied. These ODEs are widely used to build trajectories converging to a minimizer $x^*$ of a function $F$, possibly convex. This family includes the continuous version of the Nesterov inertial scheme and the continuous heavy ball method. Several damping parameters, not necessarily vanishing, and a perturbation term $g$ are thus considered. The damping parameter is linked to the inertia of the associated inertial scheme and the perturbation term $g$ is linked to the error that can be done on the gradient of the function $F$. This article presents new asymptotic bounds on $F(x(t))-F(x^*)$ where $x$ is a solution of the ODE, when $F$ is convex and satisfies local geometrical properties such as {\\L}ojasiewicz properties and under integrability conditions on $g$. Even if geometrical properties and perturbations were already studied for most ODEs of these families, it is the first time they are jointly studied. All these results give an insight on the behavior of these inertial and perturbed algorithms if $F$ satisfies some {\\L}ojasiewicz properties especially in the setting of stochastic algorithms.

研究动机与目标

• 分析连续时间下惯性梯度下降方法的收敛行为，特别是Nesterov加速法与Polyak动量法。
• 研究时变阻尼系数与外部扰动对收敛速率的影响。
• 为满足局部几何性质（如Łojasiewicz不等式）的凸函数建立新的收敛速率界。
• 在几何假设下统一分析扰动与惯性优化方案，这是此前未被联合研究的领域。
• 在扰动 $ g(t) $ 满足可积性条件的背景下，提供 $ F(x(t)) - F^* $ 的精细化衰减速率，尤其适用于随机算法。

提出的方法

• 建立一族二阶常微分方程：$ \ddot{x}(t) + \beta(t)\dot{x}(t) + \nabla F(x(t)) = g(t) $，其中 $ \beta(t) = \alpha / t^\theta $，$ \theta \in [0,1] $，用于建模惯性动力学。
• 应用李雅普诺夫函数技术推导能量衰减估计，使用根据几何设定量身定制的能量函数。
• 引入广义能量函数 $ \mathcal{E}(t) $，其结合了函数间隙 $ F(x(t)) - F^* $、速度范数以及涉及 $ x(t) - x^* $ 的加权项，参数可调。
• 通过沿轨迹求导并应用几何假设（如 $ \mathbf{H}_1(\gamma) $，其捕捉Łojasiewicz型行为），推导出能量函数的微分不等式。
• 通过时间标度 $ \mathcal{H}(t) = t^p \mathcal{E}(t) $ 将能量衰减转化为单调性条件，从而实现速率估计。
• 对扰动 $ g(t) $ 施加可积性条件，如 $ \int_{t_0}^\infty t^{(1+\theta)/2} \|g(t)\| dt < \infty $，以量化其对收敛的影响。

实验结果

研究问题

• RQ1 目标函数的几何性质（如Łojasiewicz条件）如何影响带扰动的惯性常微分方程的收敛速率？
• RQ2 在时变阻尼与非零扰动下，$ F(x(t)) - F^* $ 的最优衰减速率是什么？
• RQ3 是否可以建立一个统一框架，将Nesterov法与Polyak法的收敛分析统一起来，同时涵盖几何结构与扰动鲁棒性？
• RQ4 当目标函数为尖锐（即满足 $ \mathbf{H}_1(\gamma) $ 且 $ \gamma > 0 $）与平坦（如在鞍点或非严格极小点附近）时，收敛速率如何变化？
• RQ5 对扰动 $ g(t) $ 的何种可积性条件可确保收敛速率与无扰动情形一致？其与阻尼参数 $ \theta $ 的关系如何？

主要发现

• 当 $ \theta \in [0,1) $ 时，在Łojasiewicz条件 $ \mathbf{H}_1(\gamma) $ 下，本文建立了收敛速率 $ F(x(t)) - F^* = O\left(\frac{1}{t^{1+\theta}}\right) $，与无扰动情形一致。
• 当 $ \theta = 1 $ 且 $ \alpha > 3 $ 时，速率提升为 $ F(x(t)) - F^* = o\left(\frac{1}{t^2}\right) $，在相同几何假设下成立。
• 在亚临界情形 $ \alpha < 3 $ 下，本文证明了在较弱可积性条件下 $ \int_{t_0}^\infty t^{\alpha/3} \|g(t)\| dt < \infty $，有 $ F(x(t)) - F^* = O\left(\frac{1}{t^{2\alpha/3}}\right) $。
• 该分析首次联合考虑了几何结构与扰动影响，提供了一个统一框架，扩展了以往分别处理两者的成果。
• 通过时间标度 $ \mathcal{H}(t) = t^p \mathcal{E}(t) $ 的能量函数方法，能够精确控制衰减速率，尤其在平坦几何区域表现突出。
• 本文推导出扰动 $ g(t) $ 不会降低收敛速率的显式条件，表明若 $ g $ 满足 $ \int_{t_0}^\infty t^{(1+\theta)/2} \|g(t)\| dt < \infty $，则衰减速率得以保持。