[論文レビュー] Complexity of finding near-stationary points of convex functions stochastically

Damek Davis, Dmitriy Drusvyatskiy|arXiv (Cornell University)|Feb 21, 2018

Sparse and Compressive Sensing Techniques参考文献 12被引用数 7

ひとこと要約

この論文は、凸最適化のための確率的勾配降下法を提示し、より近い最適な収束速度 $ ablaacksim{O}( abla^{-2})$ を達成する。これは、モアレ・エンvelopeの勾配を用いて近似的に停留立点を求めるものである。徐々に正則化を施し、反復平均を組み合わせることで、以前の $O( abla^{-2.5})$ のレートを改善し、滑らかさがある場合のネステロフの加速法の確率的類似手法を提供する。

ABSTRACT

In a recent paper, we showed that the stochastic subgradient method applied to a weakly convex problem, drives the gradient of the Moreau envelope to zero at the rate $O(k^{-1/4})$. In this supplementary note, we present a stochastic subgradient method for minimizing a convex function, with the improved rate $\widetilde O(k^{-1/2})$.

研究の動機と目的

• 近似的に停留立点を求めるための収束速度の観点から、滑らかでない凸最適化と滑らかな凸最適化の間のギャップを埋めること。
• 元の滑らかでない問題における近似的に停留立点を示す、モアレ・エンvelopeの勾配が小さい点を効率的に見つけるための確率的アルゴリズムを開発すること。
• アレン＝ズィの徐々に正則化する技術を、凸関数の確率的部分勾配設定に拡張すること。
• 滑らかな凸最適化で知られている最適な $ ablaacksim{O}( abla^{-2})$ の複雑さに一致する収束速度を達成すること。

提案手法

• 滑らかでない凸関数 $\varphi$ の滑らかな近似としてのモアレ・エンvelope $\varphi_\lambda(x)$ を使用し、その勾配ノルム $\|\nabla\varphi_\lambda(x)\|$ が近似的に停留立点を測る。
• 徐々に正則化する戦略を適用：正則化パラメータ $\mu_i = 2^i \mu$ を段階的に増加させながら、正則化された部分問題を繰り返し解く。
• 反復平均を用いた確率的部分勾配降下法を採用し、分散を低減し収束を向上させる。
• 二段階構造を導入：内側のループで正則化関数を最小化し、外側のループで正則化強度を段階的に増加させる。
• 近傍の点における部分勾配ノルムと関連付けるために、proximal point $\mathrm{prox}_{\lambda\varphi}(x)$ を使用し、意味のある停留立点の保証を確保する。
• 確率的ラウンドアップ手順を導入し、正則化された解を元の定義域に戻す。期待値における収束性と妥当性を維持する。

実験結果

リサーチクエスチョン

• RQ1 滑らかな凸最適化で知られている $ ablaacksim{O}( abla^{-2})$ の収束速度が、確率的かつ滑らかでない設定でも $\varepsilon$-停留立点を求める際に達成可能か。
• RQ2 アレン＝ズィ（2017）が提唱した徐々に正則化する技術が、凸関数の確率的部分勾配法に適応可能か。
• RQ3 確率的部分勾配設定において、正則化強度、反復回数、収束速度の最適なトレードオフは何か。
• RQ4 滑らかでない場合に、モアレ・エンvelopeの勾配ノルムは、近傍の点における真の部分勾配ノルムとどのように関係するか。

主な発見

• 確率的部分勾配オракルおよび射影写像への呼び出し回数が $O\left(\frac{\log^3(\rho D / \varepsilon)(L^2 + \rho^2 D^2)}{\varepsilon^2}\right)$ 回で、期待値としての勾配ノルム $\mathbb{E}\|\nabla\varphi_{1/(2\rho)}(\bar{z})\| \leq \varepsilon$ を達成する。
• 収束速度は $\widetilde{O}(\varepsilon^{-2})$ であり、滑らかな凸最適化で知られている最適レートに一致し、確率的滑らかでない設定での以前の $O(\varepsilon^{-2.5})$ レートを改善する。
• 強い凸関数に対しては、徐々に正則化と平均化により $\widetilde{O}(\varepsilon^{-2})$ のレートを達成でき、強凸パrameter $\mu$ への明示的な依存関係を示す。
• 小さな二次正則化を追加することで、強い凸でない問題に対してもロバストである。最終的な解は凸結合により元の定義域に戻され、妥当性と収束性が保たれる。
• 解析により、$\|\nabla\varphi_\lambda(x)\|$ が $\widehat{x} = \mathrm{prox}_{\lambda\varphi}(x)$ というほぼ停留立点までの距離を制御することが示され、これが停留立点の測度としての妥当性を裏付ける。