[論文レビュー] Convergence to Second-Order Stationarity for Constrained Non-Convex Optimization

Maher Nouiehed, Jason D. Lee+1 more|arXiv (Cornell University)|Oct 4, 2018

Stochastic Gradient Optimization Techniques参考文献 41被引用数 17

ひとこと要約

本稿では、制約付き非凸最適化のための動的2次フォーム・ウルフ（Frank–Wolfe）アルゴリズムを提案し、$(\epsilon_g, \epsilon_H)$-2次停留点へ $\mathcal{O}(\max\{\epsilon_g^{-2}, \epsilon_H^{-3}\})$ 回の反復で収束することを示している。2次停留点の確認が、線形制約のもとでもNP困難であることが確立されたが、適応的ステップサイズと部分問題の解法を活用することで、収束保証が得られる効率的ケースを同定した。

ABSTRACT

We consider the problem of finding an approximate second-order stationary point of a constrained non-convex optimization problem. We first show that, unlike the gradient descent method for unconstrained optimization, the vanilla projected gradient descent algorithm may converge to a strict saddle point even when there is only a single linear constraint. We then provide a hardness result by showing that checking $(ε_g,ε_H)$-second order stationarity is NP-hard even in the presence of linear constraints. Despite our hardness result, we identify instances of the problem for which checking second order stationarity can be done efficiently. For such instances, we propose a dynamic second order Frank--Wolfe algorithm which converges to ($ε_g, ε_H$)-second order stationary points in ${\mathcal{O}}(\max\{ε_g^{-2}, ε_H^{-3}\})$ iterations. The proposed algorithm can be used in general constrained non-convex optimization as long as the constrained quadratic sub-problem can be solved efficiently.

研究の動機と目的

• 制約付き非凸最適化において、1次最適化手法が厳密なサドル点に収束する可能性があるという課題に対処すること。
• 線形制約のもとでも、$(\epsilon_g, \epsilon_H)$-2次停留点の確認が計算的に困難であることを確立すること。
• 制約付き二次部分問題が解ける場合に、効率的に2次停留点に収束する実用的なアルゴリズムを設計すること。
• 非制約問題で知られている最良のレートに一致するが、制約付き設定へ拡張された反復複雑度の境界を提供すること。

提案手法

• 勾配とヘッセ行列の情報に基づき、探索方向とステップサイズを適応的に選択する動的2次フォーム・ウルフアルゴリズムを提案する。
• 十分な減少条件と曲率に基づく受容基準を組み合わせたラインサーチ機構を用い、進捗を保証する。
• 十分な減少が達成されない場合に適応的に減少するパラメータ $\alpha_k$ を用いて、信頼領域に類似したメカニズムを採用する。
• 勾配とヘッセ行列の曲率の両方を考慮した $\psi_{k,\alpha_k}$ と $\mathcal{X}_k$ を用いた、ステップ受容のための重要な条件を導入する。
• 2次降下補題に基づく各反復における目的関数の減少バウンドに依存し、収束を確立する。
• 極限において $\mathcal{X}_k$ と $\psi_{k,\alpha_k}$ が消えることを示すことで、2次停留点への収束を証明する。

実験結果

リサーチクエスチョン

• RQ1 非凸最適化において、1つの線形制約がある場合でも、投影勾配降下法が厳密なサドル点に収束しうるか？
• RQ2 線形制約がある状況でも、$(\epsilon_g, \epsilon_H)$-2次停留点の確認が計算的に容易か？
• RQ3 フォーム・ウルフ型アルゴリズムをどのように変更すれば、制約付き非凸問題で2次停留点に到達できるか？
• RQ4 制約付き設定のもとで、$(\epsilon_g, \epsilon_H)$-2次停留点に到達する最悪ケースの反復複雑度は何か？
• RQ5 制約付き二次部分問題が効率的に解ける条件は何か？これにより2次収束が可能になる。

主な発見

• 単一の線形制約がある場合でも、そのままの投影勾配降下法は、厳密なサドル点に収束しうることを示し、根本的な制限を示した。
• 線形制約のもとでも、$(\epsilon_g, \epsilon_H)$-2次停留点の確認がNP困難であることが示され、計算的障壁を確立した。
• 提案された動的2次フォーム・ウルフアルゴリズムは、$\mathcal{O}(\max\{\epsilon_g^{-2}, \epsilon_H^{-3}\})$ 回の反復で $(\epsilon_g, \epsilon_H)$-2次停留点に収束する。
• 勾配ノルムと曲率の両方の条件を組み合わせたものにより、目的関数の十分な減少を保証し、$\psi_{k,\alpha_k}$ と $\mathcal{X}_k$ で形式化された。
• $\|\nabla f(x_k)\| > \epsilon_g$ または $\psi_{k,\alpha_k} > \epsilon_H$ となる反復回数の上限は、それぞれ $\mathcal{O}(\epsilon_g^{-2})$ および $\mathcal{O}(\epsilon_H^{-3})$ で抑えられる。
• $\lim_{k\to\infty} \mathcal{X}_k = \lim_{k\to\infty} \psi_{k,\alpha_k} = 0$ を示すことで、2次停留点への収束が証明され、すべての極限点が2次停留点であることが示された。