[論文レビュー] Stochastic subgradient method converges at the rate $O(k^{-1/4})$ on weakly convex functions

Damek Davis, Dmitriy Drusvyatskiy|arXiv (Cornell University)|Feb 8, 2018

Sparse and Compressive Sensing Techniques参考文献 21被引用数 46

ひとこと要約

この論文は、弱く凸性を持つ目的関数に適用した近接確率的サブグラデント法が、Moreauエンベロープの勾配を O(k^{-1/4}) の速度でゼロへ導き、近ステーショナリティを得るのに必要な反復回数を O(ε^{-4}) にすることを示している。

ABSTRACT

We prove that the proximal stochastic subgradient method, applied to a weakly convex problem, drives the gradient of the Moreau envelope to zero at the rate $O(k^{-1/4})$. As a consequence, we resolve an open question on the convergence rate of the proximal stochastic gradient method for minimizing the sum of a smooth nonconvex function and a convex proximable function.

研究の動機と目的

• Φ(x)= g(x) + r(x) を最適化する動機付けと分析。ここで r は計算可能な proximal マップ を持つ閉集合凸関数、g は ρ-弱凸。
• 標準的な確率的オラクル仮定 (A1–A3) の下で proximal stochastic subgradient 法の収束保証を提供。
• λ = 1/(2ρ) での φ_λ の勾配 ∇φ_{λ}(x) を用いて近ステーショナリティの速度を特徴づける。
• 適切な設定で ε-stationarity を O(ε^{-4}) 回の反復で達成することを示す。
• これらの結果が非滑らかな g に対する既知の収束速度を拡張し、確率的推定の分散が非減少でも許容されることを議論する。

提案手法

• φ(x)=g(x)+r(x) を定式化する。ここで r は計算可能な proximal マップ を持つ閉凸関数、g は ρ-弱凸。
• x_{t+1} = prox_{α_t r}( x_t - α_t G(x_t, ξ_t) ) を用い、 G は g のサブグラデントの無偏推定量。
• Moreau エンベロープ φ_λ を定義し、 ∇φ_λ(x) = (x - prox_{λφ}(x))/λ を用いて近ステーショナリティを測定する。
• (A1) 独立同分布データ, (A2) ∂g(x) 内の確率的サブグラデント, (A3) G の分散の有界性, そして α_t ∈ (0, 1/ρ] の下で収束を証明する。
• 初期ギャップ・分散・ステップサイズに関する E[||∇φ_{1/ârho}(x_{t*})||^2] の境界を導出し、 ε-stationarity の反復複雑度を O(ε^{-4}) 得る。
• 定常的なステップサイズの場合のコルollaries の補足と、凸/滑らかな場合における改善について議論する。

実験結果

リサーチクエスチョン

• RQ1 弱く凸性を持つ目的関数に対する proximal stochastic subgradient 法の収束速度はどの程度か。
• RQ2 Moreau エンベロープの勾配で近ステーショナリティを証明できるか、∥∇φ_{1/(2ρ)}(x)∥ はどの速度で縮小するか。
• RQ3 確率的オラクルの分散仮定は速度にどう影響するか、非減衰分散は許容されるか。
• RQ4 提案フレームワークの下で ε-stationarity を達成するための反復複雑度はどれくらいか。
• RQ5 g が滑らかである場合や r が指標/射影項である場合の結果の適用性はどうなるか。

主な発見

• 近接確率的サブグラデント法は Moreau エンベロープの勾配を O(k^{-1/4}) の速度でゼロへ導く。
• 標準的な仮定の下で、 E[∥∇φ_{1/(2ρ)}(x_{t*})∥^2] ≤ C/(√{T+1}) が適切な定数の下で成り立ち、 ε-stationarity を O(ε^{-4}) の反復で得る。
• 定数ステップサイズ α ≈ 1/√(T+1) の場合、界は O( (φ_{1/(2ρ)}(x0) - min φ) + ρ L^2 γ^2 ) / (γ √(T+1)) にスケールする。
• g が凸の場合、論文は多段階や正則化付きバリアントを通じて、特定の領域でより速い収束を達成する可能性を示す。
• 滑らかな設定で分散が有限の場合、∥∇φ_{1/(2ρ)}(x_{t*})∥^2 に対して同様の ε^{-4} の依存と追加の σ^2 項が成り立つ。