[論文レビュー] Lower Bounds for Non-Convex Stochastic Optimization

Yossi Arjevani, Yair Carmon+4 more|arXiv (Cornell University)|Dec 5, 2019

Stochastic Gradient Optimization Techniques被引用数 6

ひとこと要約

本稿は、一階微分法を用いた非凸確率的最適化において、$\epsilon$-停留立点を求める際の計算複雑度のタイトな下界を確立する。一般設定では、確率的勾配降下法（SGD）が最小最大最適であり、$\epsilon^{-4}$ のクエリ複雑度を達成することを証明する。また、平均二乗滑らかさの下では、分散低減手法（SPIDER や SNVRG など）が最適であり、$\epsilon^{-3}$ の複雑度を達成することが示される。

ABSTRACT

We lower bound the complexity of finding $ε$-stationary points (with gradient norm at most $ε$) using stochastic first-order methods. In a well-studied model where algorithms access smooth, potentially non-convex functions through queries to an unbiased stochastic gradient oracle with bounded variance, we prove that (in the worst case) any algorithm requires at least $ε^{-4}$ queries to find an $ε$ stationary point. The lower bound is tight, and establishes that stochastic gradient descent is minimax optimal in this model. In a more restrictive model where the noisy gradient estimates satisfy a mean-squared smoothness property, we prove a lower bound of $ε^{-3}$ queries, establishing the optimality of recently proposed variance reduction techniques.

研究の動機と目的

• 非凸確率的最適化における $\epsilon$-停留立点を求める際の計算複雑度の根本的限界を確立すること。
• 確率的勾配降下法（SGD）および分散低減技術がクエリ複雑度の観点で最適であるかどうかを特定すること。
• 特に平均二乗滑らかさという追加の構造的仮定がアルゴリズムの複雑度に与える影響を分析すること。
• アクティブオラクルおよび有限和問題への下界の拡張を行い、異なるモデル間で一貫性を示すこと。
• 確率的非凸最適化における既知の上界と理論的限界の間のギャップを埋めること。

提案手法

• 滑らかで非凸な関数 $F$ を、分散が有界な不偏な確率的勾配オラクルを通じてアクセスするオラクルモデルを用いる。
• $L$-滑らかさと有界分散を満たす $F$ および $g$ の難しいインスタンスを構築し、最悪ケースの下界を証明する。
• 情報理論的議論と確率的カップリングを用いて、$T$ 回のクエリ後の期待勾配ノルムを制限する。
• 悪意ある挙動を模倣するために、ランダムな置換とビットベクトルを用いた新しいハード関数の構築法を導入する。
• 標準的およびアクティブオラクルの両方の下界を導出し、有限和最小化設定にも適用する。
• 対称性と置換不変性を用いて進捗確率の上限を導出し、タイトな複雑度下限に至る。

実験結果

リサーチクエスチョン

• RQ1 非凸確率的最適化において、$\epsilon$-停留立点を求めるために必要な確率的勾配クエリの最小数は何か？
• RQ2 分散が有界な一般非凸設定において、確率的勾配降下法（SGD）は最小最大最適か？
• RQ3 より強い仮定の下で、分散低減技術が $\epsilon^{-4}$ よりも良いクエリ複雑度を達成できるか？
• RQ4 勾配推定器の平均二乗滑らかさという性質が、収束速度の向上を可能にするか？
• RQ5 アクティブオラクルや有限和オラクルなど、より制限の厳しいオラクルモデルでも下界は成立するか？

主な発見

• 分散が有界な一般の確率的一次オラクルモデルでは、任意の確率的アルゴリズムが $\Omega(\Delta L \sigma^2 \epsilon^{-4})$ クエリ以上を必要とする。
• $\epsilon^{-4}$ の下界はタイトであり、SGD がこの設定で最小最大最適であることを証明する。
• 平均二乗滑らかさの仮定の下では、下界は $\Omega(\Delta \bar{L} \sigma \epsilon^{-3} + \sigma^2 \epsilon^{-2})$ に上昇し、SPIDER や SNVRG の複雑度と一致する。
• 任意の数 $K$ の同時クエリに対しても下界は成立し、次元 $d$ は $K$ および $\epsilon^{-1}$ に対して多項式的に増加する。
• 下界はアクティブオラクルおよび有限和問題へも拡張可能であり、異なるオラクルモデル間で一貫性を示す。
• 勾配推定器が $g(x,z) = \nabla_x f(x,z)$ の形である場合でさえ、下界はタイトであり、機械学習における経験的リスク最小化をカバーする。