[論文レビュー] Nesterov's acceleration and Polyak's heavy ball method in continuous time: convergence rate analysis under geometric conditions and perturbations

Othmane Sebbouh, Charles Dossal+1 more|arXiv (Cornell University)|Jul 5, 2019

Sparse and Compressive Sensing Techniques参考文献 22被引用数 7

ひとこと要約

本稿は、時間変化する減衰項と摂動を伴う2階常微分方程式（ODE）を用いて、連続時間におけるネステロフの加速勾配法とポリャクのヘヴィーボール法の収束速度を分析する。幾何的条件（例：Łojasiewicz性質）および摂動の可積分性の下で、鋭い幾何構造と平坦な幾何構造の両方において、改善された収束速度を確立し、慣性的および摂動付き最適化スキームの分析を統一する。

ABSTRACT

In this article a family of second order ODEs associated to inertial gradient descend is studied. These ODEs are widely used to build trajectories converging to a minimizer $x^*$ of a function $F$, possibly convex. This family includes the continuous version of the Nesterov inertial scheme and the continuous heavy ball method. Several damping parameters, not necessarily vanishing, and a perturbation term $g$ are thus considered. The damping parameter is linked to the inertia of the associated inertial scheme and the perturbation term $g$ is linked to the error that can be done on the gradient of the function $F$. This article presents new asymptotic bounds on $F(x(t))-F(x^*)$ where $x$ is a solution of the ODE, when $F$ is convex and satisfies local geometrical properties such as {\\L}ojasiewicz properties and under integrability conditions on $g$. Even if geometrical properties and perturbations were already studied for most ODEs of these families, it is the first time they are jointly studied. All these results give an insight on the behavior of these inertial and perturbed algorithms if $F$ satisfies some {\\L}ojasiewicz properties especially in the setting of stochastic algorithms.

研究の動機と目的

• 連続時間における慣性的勾配降下法の収束挙動を分析すること、具体的にはネステロフの加速法とポリャクのヘヴィーボール法を対象とする。
• 時間変化する減衰係数および外部摂動が収束速度に与える影響を調査すること。
• 局所的な幾何的性質（例：Łojasiewicz不等式）を満たす凸関数に対して、新たな収束速度の上限を確立すること。
• 幾何的仮定の下で、従来別々に扱われてきた摂動付きおよび慣性的最適化スキームの分析を統一すること。
• 摂動 $ g(t) $ に対して可積分性条件を課すことにより、$ F(x(t)) - F^* $ の精密な減衰率を特定し、特に確率的アルゴリズムの文脈で有効にすること。

提案手法

• 慣性的ダイナミクスをモデル化する、次のような2階ODEの族を定式化する：$ \ddot{x}(t) + \beta(t)\dot{x}(t) + \nabla F(x(t)) = g(t) $、ここで $ \beta(t) = \alpha / t^\theta $、$ \theta \in [0,1] $。
• 適切に調整されたエネルギー関数を用いて、リャプノフ関数技法を適用し、エネルギーの減衰を推定する。幾何的設定に応じてエネルギー関数を調整する。
• 関数ギャップ $ F(x(t)) - F^* $、速度ノルム、および $ x(t) - x^* $ を重み付け項として含む一般化されたエネルギー関数 $ \mathcal{E}(t) $ を導入し、調整可能なパラメータを備える。
• 軌道に沿って微分し、幾何的仮定（例：$ \mathbf{H}_1(\gamma) $）を適用することで、エネルギー関数に対する微分不等式を導出する。$ \mathbf{H}_1(\gamma) $ はŁojasiewicz型の挙動を捉える。
• 時間スケーリング $ \mathcal{H}(t) = t^p \mathcal{E}(t) $ を用いてエネルギーの減衰を単調性条件に変換し、収束速度の推定を可能にする。
• 摂動 $ g(t) $ に対して可積分性条件を課す。具体的には $ \int_{t_0}^\infty t^{(1+\theta)/2} \|g(t)\| dt < \infty $ のような条件を想定し、その影響を定量的に評価する。

実験結果

リサーチクエスチョン

• RQ1 目的関数の幾何的性質（例：Łojasiewicz条件）が、摂動を伴う慣性的ODEの収束速度にどのように影響を与えるか。
• RQ2 時間変化する減衰および非消える摂動の下で、$ F(x(t)) - F^* $ の最適な減衰速度は何か。
• RQ3 ネステロフ法とポリャク法の収束解析を、幾何的構造と摂動へのロバストネスを同時に考慮する統一的枠組みで行うことは可能か。
• RQ4 目的関数が鋭い場合（例：$ \mathbf{H}_1(\gamma) $ を満たし $ \gamma > 0 $）と平坦な場合（例：鞍点付近や非厳密最小点付近）とで、収束速度はどのように変化するか。
• RQ5 摂動 $ g(t) $ に対してどのような可積分性条件を課すと、収束速度が非摂動ケースと一致するか。また、その条件は減衰パラメータ $ \theta $ にどのように依存するか。

主な発見

• $ \theta \in [0,1) $ の場合、Łojasiewicz条件 $ \mathbf{H}_1(\gamma) $ の下で、$ F(x(t)) - F^* = O\left(\frac{1}{t^{1+\theta}}\right) $ の収束速度が確立され、非摂動ケースと一致する。
• $ \theta = 1 $ かつ $ \alpha > 3 $ の場合、同じ幾何的仮定の下で収束速度が $ F(x(t)) - F^* = o\left(\frac{1}{t^2}\right) $ に改善される。
• 亜臨界ケース $ \alpha < 3 $ では、より弱い可積分性条件 $ \int_{t_0}^\infty t^{\alpha/3} \|g(t)\| dt < \infty $ の下で、$ F(x(t)) - F^* = O\left(\frac{1}{t^{2\alpha/3}}\right) $ が示される。
• 本稿の分析は、幾何的構造と摂動効果を同時に考慮する初めての統一的枠組みを提供し、従来別々に扱われてきた結果を拡張する。
• 時間スケーリング $ \mathcal{H}(t) = t^p \mathcal{E}(t) $ を用いたエネルギー関数アプローチにより、特に平坦な幾何構造の領域において、減衰速度の精密な制御が可能になる。
• 摂動 $ g(t) $ が収束速度を劣化させない明示的条件を導出し、$ g $ が $ \int_{t_0}^\infty t^{(1+\theta)/2} \|g(t)\| dt < \infty $ を満たす場合、減衰速度が保たれることを示している。