[論文レビュー] Behavior of Accelerated Gradient Methods Near Critical Points of Nonconvex Problems

Michael O’Neill, Stephen J. Wright|arXiv (Cornell University)|Jun 24, 2017

Advanced Optimization Algorithms Research被引用数 8

ひとこと要約

この論文は、非凸最適化における厳密な鞍点の周辺で加速勾配法を分析し、安定多様体定理を用いて、ヘヴィボール法がそのような点に収束しないことを証明する。さらに、ヘヴィボール法と標準的な加速法の両方が、勾配降下法よりも厳密な鞍点からより速く発散することを示しており、非凸な形状における動的不安定性が顕著であることを強調している。

ABSTRACT

We examine the behavior of accelerated gradient methods in smooth nonconvex unconstrained optimization, focusing in particular on their behavior near strict saddle points. Accelerated methods are iterative methods that typically step along a direction that is a linear combination of the previous step and the gradient of the function evaluated at a point at or near the current iterate. (The previous step encodes gradient information from earlier stages in the iterative process.) We show by means of the stable manifold theorem that the heavy-ball method method is unlikely to converge to strict saddle points, which are points at which the gradient of the objective is zero but the Hessian has at least one negative eigenvalue. We then examine the behavior of the heavy-ball method and other accelerated gradient methods in the vicinity of a strict saddle point of a nonconvex quadratic function, showing that both methods can diverge from this point more rapidly than the steepest-descent method.

研究の動機と目的

• 非凸最適化における臨界点の周辺での加速勾配法の挙動を理解すること。
• 加速法が厳密な鞍点に収束するか、それらを避けるかを調査すること。
• 厳密な鞍点の周辺におけるヘヴィボール法と勾配降下法のダイナミクスを比較すること。
• 力学系理論を用いて、非凸臨界点の近傍における加速法の不安定性を分析すること。

提案手法

• 安定多様体定理を用いて、ヘヴィボール法が厳密な鞍点の周辺で示す収束挙動を分析する。
• 非凸二次関数の厳密な鞍点の近傍におけるヘヴィボール法のダイナミクスに焦点を当てる。
• 鞍点の周囲での線形化されたダイナミクスを分析し、軌道がその点に収束するか、発散するかを特定する。
• ヘヴィボール法の鞍点からの発散速度を、勾配降下法と定量的に比較する。
• 臨界点におけるヘッセ行列の構造と固有値分布を理論的に分析し、不安定多様体を特徴付ける。
• 連続時間近似と離散時間反復を用いて、加速法の軌道をモデル化する。

実験結果

リサーチクエスチョン

• RQ1 ヘヴィボール法は非凸最適化において厳密な鞍点に収束するのか？
• RQ2 ヘヴィボール法の発散速度は、厳密な鞍点の周辺で勾配降下法と比べてどの程度速いか？
• RQ3 ヘッセ行列の負の固有値が、鞍点の周辺における加速法の不安定性に果たす役割は何か？
• RQ4 力学系理論は、加速法が厳密な鞍点を避ける理由を説明できるか？
• RQ5 過去の勾配と現在の勾配の線形結合は、非凸臨界点からの脱出にどのように影響するか？

主な発見

• 安定多様体定理により保証される安定多様体の構造のおかげで、ヘヴィボール法は厳密な鞍点に収束する可能性が低い。
• 厳密な鞍点の周辺では、ヘヴィボール法は勾配降下法よりも速く発散する。
• 他の加速勾配法についても、勾配降下法よりも厳密な鞍点から速く発散する。
• 鞍点の近傍での不安定性は、ヘッセ行列の負の固有値の存在に起因し、ヘヴィボール更新におけるモーメンタム効果を強める。
• 理論的分析により、加速法におけるモーメンタム項が、負の曲率を示す非凸臨界点からの脱出を促進することが確認された。
• 結果から、加速法は不安定多様体方向における動的不安定性のおかげで、本質的に厳密な鞍点を避けることが示唆された。