[論文レビュー] Accelerated Gradient Methods for Nonconvex Nonlinear and Stochastic Programming

Saeed Ghadimi, Guanghui Lan|arXiv (Cornell University)|Oct 14, 2013

Sparse and Compressive Sensing Techniques参考文献 23被引用数 6

ひとこと要約

この論文は、非凸および確率的最適化問題へのネステロフの加速勾配（AG）法の一般化を提示し、適切なステップサイズ方針を用いることで、滑らかな非凸問題において、勾配降下法と同等の最良の既知の収束速度を達成することを示している。さらに、合成非凸問題における一様収束を確立し、非凸確率的プログラミングの既存の収束速度を改善する確率的AG法を導入している。

ABSTRACT

In this paper, we generalize the well-known Nesterov's accelerated gradient (AG) method, originally designed for convex smooth optimization, to solve nonconvex and possibly stochastic optimization problems. We demonstrate that by properly specifying the stepsize policy, the AG method exhibits the best known rate of convergence for solving general nonconvex smooth optimization problems by using first-order information, similarly to the gradient descent method. We then consider an important class of composite optimization problems and show that the AG method can solve them uniformly, i.e., by using the same aggressive stepsize policy as in the convex case, even if the problem turns out to be nonconvex. We demonstrate that the AG method exhibits an optimal rate of convergence if the composite problem is convex, and improves the best known rate of convergence if the problem is nonconvex. Based on the AG method, we also present new nonconvex stochastic approximation methods and show that they can improve a few existing rates of convergence for nonconvex stochastic optimization. To the best of our knowledge, this is the first time that the convergence of the AG method has been established for solving nonconvex nonlinear programming in the literature.

研究の動機と目的

• ネステロフの加速勾配法を凸最適化を超えて非凸および確率的設定に拡張すること。
• 適切なステップサイズ方針を用いることで、非凸滑らか最適化においてAG法の収束性および収束速度を確立すること。
• 滑らかかつ非滑らか成分を含む合成最適化問題に対して、同一の積極的なステップサイズ方針を用いて、凸または非凸のいずれの場合にも統一的な取り扱いを提供すること。
• 非凸確率的プログラミングにおいて既存の収束速度を改善する確率的AG法を開発すること。
• 非凸設定においてAG法の理論的収束保証が不足していた問題を解決すること、これは長年の未解決問題であった。

提案手法

• 非凸滑らか問題に特化した特定のステップサイズ方針を備えた修正されたAG法を提案し、停留点への収束を保証する。
• 非凸および確率的設定に適応した多段階加速スキームを導入し、モーメンタムに類似した更新を活用する。
• 関数値と勾配がノイズのある評価を介してアクセスされる確率的オракル（SO）モデルを採用し、サンプルサイズを反復依存のルールで制御する。
• 確率的解析とマルコフの不等式を用いて、勾配の期待ノルムをバウンドすることで、SOコール回数に基づく複雑度境界を導出する。
• 確率的設定における信頼水準Λへの依存性を改善する二段階法を設計し、解のロバストネスを向上させる。
• 合成問題（滑らか＋非滑らか成分）に対して一様なステップサイズ方針を用い、凸性にかかわらず収束を維持する。

実験結果

リサーチクエスチョン

• RQ1 加速勾配法は、収束性と最良の収束速度を保ちつつ、非凸滑らか最適化問題へ一般化可能か？
• RQ2 非凸な合成最適化問題にAG法を適用した場合、その収束性および速度の向上が維持されるか？
• RQ3 非凸確率的プログラミングにおいて、AG法の確率的変種が既存の手法よりも優れた収束速度を達成可能か？
• RQ4 同一の積極的ステップサイズ方針を用いて、凸および非凸問題の分析を統一的に扱うことは可能か？
• RQ5 非凸確率的最適化において、ε-停留点を求めるための最適な複雑度境界（確率的オラクルコール回数）は何か？

主な発見

• 滑らかな非凸最適化において、AG法はε-停留点を求めるためにO(1/ε^{1/3})の反復複雑度を達成し、勾配降下法の最良の既知のレートと一致する。
• 合成非凸問題において、AG法は既存の手法と比較して、問題が非凸であっても最良の既知の収束速度を改善する。
• 合成問題が凸の場合、AG法は最適な収束速度を示し、凸の場合と同一の積極的ステップサイズ方針のもとで収束を維持する。
• 確率的AG法は、ε-停留点を求めるために、総合的な確率的オラクルコール回数がO((L_Ψ²(‖x₀−x*‖²+D̃²)/ε)^{1/3} + (L_f L_Ψ(M²+‖x*‖²+D̃²)/ε) + (L_Ψ^{1/2}(‖x₀−x*‖²+D̃²)σ³/(L_f^{3/2}D̃³ε))^{2/3} + (L_f L_Ψ(M²+‖x*‖²+D̃²)²σ²/(D̃²ε²)))で抑えられることを示した。
• L_f = 0（つまり、滑らかな凸確率的問題）の場合、複雑度境界は最適であり、文献に既知の最適境界と一致する。