[論文レビュー] Can We Find Near-Approximately-Stationary Points of Nonsmooth Nonconvex Functions?

Ohad Shamir|arXiv (Cornell University)|Feb 27, 2020

Stochastic Gradient Optimization Techniques参考文献 26被引用数 7

ひとこと要約

この論文は、ブラックボックスアルゴリズムが滑らかでない非凸関数の近似的に停留立点に近い点を特定できるかを調査し、この緩い目標ですら有限時間保証では一般的に達成できないことを示している。標準的な勾配ベースの手法が急激な勾配の変化のため、$\epsilon$-停留立点に近い点を信頼して特定できないこと、ならびに滑らかでない最適化における根本的な限界を強調している。

ABSTRACT

It is well-known that given a bounded, smooth nonconvex function, standard gradient-based methods can find $ε$-stationary points (where the gradient norm is less than $ε$) in $\mathcal{O}(1/ε^2)$ iterations. However, many important nonconvex optimization problems, such as those associated with training modern neural networks, are inherently not smooth, making these results inapplicable. Moreover, as recently pointed out in Zhang et al. [2020], it is generally impossible to provide finite-time guarantees for finding an $ε$-stationary point of nonsmooth functions. Perhaps the most natural relaxation of this is to find points which are near such $ε$-stationary points. In this paper, we show that even this relaxed goal is hard to obtain in general, given only black-box access to the function values and gradients. We also discuss the pros and cons of alternative approaches.

研究の動機と目的

• 滑らかでない非凸関数に対して、ブラックボックスアルゴリズムが近的停留立点に近い点を特定できるかを調査すること。
• 関数値と勾配が利用可能である場合に、有限時間アルゴリズムが$\epsilon$-停留立点に近い点を特定する可能性を評価すること。
• $(\delta,\epsilon)$-停留立点のような、既存の緩い停留立点定義の限界を評価すること。
• 滑らかでない非凸問題に対して、有限時間のアルゴリズム的保証を可能にする代替の停留立点の概念を検討すること。
• 標準的な勾配の凸包の挙動により、$(\delta,\epsilon)$-停留立点のような緩い定義ですら、直感的または実用的な停留立点を反映していないことがあることの説明。

提案手法

• $(\delta,\epsilon)$-停留立点を定義するために、点の$\delta$-近傍における勾配集合の性質を凸包を用いて分析する。
• $\mathbb{R}^2$上に定義された、$2\pi$-リプシッツかつ微分可能であるが、原点が$(\delta,0)$-停留立点であるが、その$\delta$-近傍のすべての勾配のノルムが1以上であるような反例関数を構築する。
• 確率的還元を用いて、特定の条件下で、$\epsilon$-停留立点を含む関数と含まない関数を、ブラックボックスアルゴリズムが区別できないことを示す。
• すべてのアルゴリズムの反復点で正であり、$7$-リプシッツである関数$h_{\mathbf{w}}(\mathbf{x})$を用い、$\epsilon$-停留立点では値が$-1$であることを示し、任意の$\epsilon$-停留立点までの距離に下界を与える。
• $(\delta,\epsilon)$-停留立点の定義は次元に依存しないが、実際の小さな勾配に近い点を示すものではないことが、反例によって示された。
• モアレ・ヨシダやラスリー＝リオンズ正則化のような代替のスムージング技術を検討したが、一般には計算的に非効率であると指摘した。

実験結果

リサーチクエスチョン

• RQ1 ブラックボックスアクセスを用いた有限時間保証を持つアルゴリズムは、滑らかでない非凸関数の$\epsilon$-停留立点に近い点を特定できるか？
• RQ2 Zhangら（2020）が提唱した$(\delta,\epsilon)$-停留立点の定義は、実際の$\epsilon$-停留立点に近いかを保証するのに十分か？
• RQ3 ブラックボックスアクセス下での滑らかでない非凸最適化において、勾配ベースの手法の根本的限界は何か？
• RQ4 凸包の勾配に依存しない代替のスムージングや停留立点の定義は、より良いアルゴリズム的保証を提供できるか？
• RQ5 なぜ標準的なスムージング手法は、滑らかでない非凸関数において意味のある停留立点を保存できないのか？

主な発見

• 滑らかでない非凸関数の$\epsilon$-停留立点に近い点を特定するための、ブラックボックスアクセスを用いた有限時間保証は一般に不可能である。
• この論文は、$\mathbb{R}^2$上に定義された微分可能かつ$2\pi$-リプシッツな関数を構築し、原点が$(\delta,0)$-停留立点であるが、その$\delta$-近傍のすべての勾配のノルムが1以上であることを示した。
• 関数$h_{\mathbf{w}}$がすべての反復点で正で$7$-リプシッツであるため、任意のアルゴリズムの反復点から$\epsilon$-停留立点までの距離は$\frac{1}{7}$以上である。
• $(\delta,\epsilon)$-停留立点の定義は次元に依存せず、アルゴリズム的に有用であるが、反例により、実際の$\epsilon$-停留立点に近いかどうかを保証しないことが示された。
• 滑らかにした関数の期待勾配に基づく$\widetilde{\delta,\epsilon}$-停留立点のような代替定義でも、直感的でない挙動を排除できない。
• ラスリー＝リオンズ正則化のような有名なスムージング手法ですら、一般には効率的に計算できないため、アルゴリズム的保証の実用的利用には限界がある。