[論文レビュー] On the Convergence Rate of Stochastic Mirror Descent for Nonsmooth Nonconvex Optimization

Siqi Zhang, Niao He|arXiv (Cornell University)|Jun 12, 2018

Sparse and Compressive Sensing Techniques参考文献 11被引用数 39

ひとこと要約

この論文は、非滑らかで非凸な最適化における確率的ミラー降下法（SMD）の非漸近的収束速度を初めて確立し、ミニバッチを必要とせずに、停留点への $\mathcal{O}(1/\sqrt{t})$ の収束速度を証明している。解析は、相対的に弱凸な目的関数と単純な非滑らか正則化子を想定し、緩い確率的連続性仮定の下で、Bregman散発に基づく枠組みを用いる。

ABSTRACT

In this paper, we investigate the non-asymptotic stationary convergence behavior of Stochastic Mirror Descent (SMD) for nonconvex optimization. We focus on a general class of nonconvex nonsmooth stochastic optimization problems, in which the objective can be decomposed into a relatively weakly convex function (possibly non-Lipschitz) and a simple non-smooth convex regularizer. We prove that SMD, without the use of mini-batch, is guaranteed to converge to a stationary point in a convergence rate of $ \mathcal{O}(1/\sqrt{t}) $. The efficiency estimate matches with existing results for stochastic subgradient method, but is evaluated under a stronger stationarity measure. Our convergence analysis applies to both the original SMD and its proximal version, as well as the deterministic variants, for solving relatively weakly convex problems.

研究の動機と目的

• 非滑らかで非凸な確率的最適化問題に対する確率的ミラー降下法（SMD）の非漸近的収束挙動を分析すること。
• 特に目的関数のリプシッツ連続性を仮定しない緩い仮定の下で収束保証を確立すること。
• プロキシマルおよび非プロキシマルなSMDの両方、および決定的ミラー降下法への収束解析を拡張すること。
• 非ユークリッド的設定（Bregman散発を用いて）が、標準的なユークリッド法と比較してより強い停留性測度をもたらすことを示すこと。
• このクラスの問題において、$\mathcal{O}(1/\sqrt{t})$ の収束速度を達成するためにミニバッチサンプリングが不要であることを示すこと。

提案手法

• 解析は、一般の合成問題形式 $\min_{x\in X} f(x) + r(x) = \mathbb{E}_\xi[F(x;\xi)] + r(x)$ に基づく。ここで $f(x)$ は相対的に弱凸であり、$r(x)$ は単純な非滑らかで凸な正則化子である。
• 論文は、非リプシッツ設定への有界勾配モーメント仮定の一般化として、$(L,\omega(\cdot))$-確率的相対連続性（SRC）関数の概念を導入する。
• 主要な技術的道具は、Lemma 4.1 であり、確率的部分勾配とBregman散発を含む二項型不等式を確立し、収束境界の導出を可能にする。
• SMDの更新則は $x_{t+1} = \arg\min_{x\in X} \left\{ \langle F'(x_t,\xi_t), x \rangle + r(x) + \frac{1}{\alpha_t} D_\psi(x, x_t) \right\}$ で定義され、$D_\psi$ は1強凸関数 $\psi$ からのBregman散発である。
• 収束はBregmanモラウエンvelopeと $\Delta_{1/(2\rho)}(x)$ 測度を用いて分析され、弱凸関数の停留性を定量化する。
• 定数ステップサイズ $\alpha_t = c/\sqrt{N}$ を用い、最終出力は最初の $N$ イテレーションにおける停留性測度を最小化するイテレーションとして選択される。

実験結果

リサーチクエスチョン

• RQ1 ミニバッチサンプリングを必要とせずに、非滑らかで非凸な問題における確率的ミラー降下法（SMD）が、停留点への非漸近的収束速度を達成できるか？
• RQ2 目的関数が相対的に弱凸であるが、必ずしもリプシッツ連続ではない場合、SMDの収束速度はどのようになるか？
• RQ3 非ユークリッド的Bregman散発の使用が、標準的なユークリッドノルムと比較して、停留性測度と収束保証にどのように影響するか？
• RQ4 緩い連続性仮定の下で、部分勾配オラクルを用いた決定的ミラー降下法への収束解析を拡張できるか？
• RQ5 Bregmanモラウエンvelope測度の観点から、$\epsilon$-停留解を達成するために必要なサンプル複雑度はどの程度か？

主な発見

• 論文は、SMDが非滑らかで非凸な問題に対して、停留点への非漸近的収束速度 $\mathcal{O}(1/\sqrt{t})$ を達成することを証明している。これは、確率的部分勾配法における最高水準のレートと一致する。
• 収束結果はミニバッチを使用しない状態でも成立し、これまでは $\mathcal{O}(1/\epsilon)$ のサンプル数をイテレーションごとに必要としていた先行研究とは対照的である。
• 解析は、元のSMDおよびそのプロキシマル変種、さらには決定的ミラー降下法の両方へ適用可能である。
• Bregmanモラウエンvelopeに基づく停留性測度 $\Delta_{1/(2\rho)}(x)$ は、標準的な勾配ノルム測度よりも強い保証を提供する。
• 収束境界は、非リプシッツ関数への有界確率的部分勾配仮定の一般化である $(L,\omega(\cdot))$-SRC 条件の下で導出されている。
• 部分勾配オラクルがSRC条件を満たす決定的ミラー降下法では、$\epsilon$-停留性を達成するための反復回数は $\mathcal{O}(1/\epsilon^2)$ である。これは、この設定における決定的MDに対する最初の非漸近的結果である。