[論文レビュー] A Simple Proximal Stochastic Gradient Method for Nonsmooth Nonconvex Optimization

Zhize Li, Jian Li|arXiv (Cornell University)|Feb 13, 2018

Sparse and Compressive Sensing Techniques参考文献 25被引用数 26

ひとこと要約

本稿では、非滑らかで非凸な有限和問題に対する、分散低減と効率的な近位更新を組み合わせた新規な近位確率的勾配法であるProxSVRG+を提案する。この手法は、定数または中程度のミニバッチサイズにおいて、収束速度が向上し、ProxGD や ProxSVRG を上回る性能を発揮する。特に、再起動を必要としないPolyak-Łojasiewicz 条件のもとで、グローバル線形収束を達成する。

ABSTRACT

We analyze stochastic gradient algorithms for optimizing nonconvex, nonsmooth finite-sum problems. In particular, the objective function is given by the summation of a differentiable (possibly nonconvex) component, together with a possibly non-differentiable but convex component. We propose a proximal stochastic gradient algorithm based on variance reduction, called ProxSVRG+. Our main contribution lies in the analysis of ProxSVRG+. It recovers several existing convergence results and improves/generalizes them (in terms of the number of stochastic gradient oracle calls and proximal oracle calls). In particular, ProxSVRG+ generalizes the best results given by the SCSG algorithm, recently proposed by [Lei et al., 2017] for the smooth nonconvex case. ProxSVRG+ is also more straightforward than SCSG and yields simpler analysis. Moreover, ProxSVRG+ outperforms the deterministic proximal gradient descent (ProxGD) for a wide range of minibatch sizes, which partially solves an open problem proposed in [Reddi et al., 2016b]. Also, ProxSVRG+ uses much less proximal oracle calls than ProxSVRG [Reddi et al., 2016b]. Moreover, for nonconvex functions satisfied Polyak-Łojasiewicz condition, we prove that ProxSVRG+ achieves a global linear convergence rate without restart unlike ProxSVRG. Thus, it can \emph{automatically} switch to the faster linear convergence in some regions as long as the objective function satisfies the PL condition locally in these regions. ProxSVRG+ also improves ProxGD and ProxSVRG/SAGA, and generalizes the results of SCSG in this case. Finally, we conduct several experiments and the experimental results are consistent with the theoretical results.

研究の動機と目的

• 定数または中程度のミニバッチサイズを用いた非滑らかで非凸な有限和問題に対して、効率的な確率的手法が不足しているという問題に対処すること。
• ProxSVRG や ProxSAGA が、ProxGD を上回るためには大きなミニバッチサイズを必要とするという制限を克服すること。
• 収束速度を維持または向上させながら、近位オラクル呼び出し回数を削減する手法を開発すること。
• Reddi ら (2016b) が提起したオープンな問題、すなわち、定数ミニバッチサイズのもとで ProxGD を上回る性能を達成すること。
• 再起動を必要としない条件下で、Polyak-Łojasiewicz 条件のもとでグローバル線形収束を確立すること。

提案手法

• 分散低減に基づく SVRG フレームワークに立脚する近位確率的勾配法である ProxSVRG+ を提案する。
• ProxSVRG よりも収束証明が簡素化される新しい解析手法を導入し、より緊密な境界を導出可能にする。
• 降下効果と分散低減効果をバランスさせるために、ステップサイズルール $\eta = \frac{1}{6L}$ を採用する。
• 完全勾配と確率的勾配の推定値の組み合わせを用いて、更新方向の分散を低減する。
• 再帰的境界を導出するために、Young の不等式とノルム分解を適用する。
• Polyak-Łojasiewicz (PL) 条件を活用し、再起動を必要としないグローバル線形収束を確立する。

実験結果

リサーチクエスチョン

• RQ1 定数または中程度のミニバッチサイズを用いた非滑らかで非凸な最適化において、確率的近位手法が、決定的 ProxGD よりも優れた収束を達成できるか？
• RQ2 提案手法である ProxSVRG+ は、再起動を必要とせず、PL 条件のもとでグローバル線形収束を達成できるか？
• RQ3 ProxSVRG よりも著しく近位オラクル呼び出し回数を削減できるか、かつ収束速度を維持または向上できるか？
• RQ4 ProxSVRG+ は、滑らかで非凸な場合の SCSG と比較してどのように性能を発揮するか？また、SCSG の結果を非滑らかケースに一般化できるか？
• RQ5 非滑らかで非凸な状況下で、確率的勾配オラクル呼び出し回数と近位オラクル呼び出し回数の最適なトレードオフは何か？

主な発見

• ProxSVRG+ は、確率的一次オラクル呼び出しの観点から、収束速度 $\widetilde{O}(\frac{1}{\epsilon^{3/2}} \wedge \frac{n^{1/2}}{\epsilon})$ を達成し、先行研究を上回る。
• この手法は、ProxSVRG よりも近位オラクル呼び出し回数を削減し、実用的により効率的である。
• Polyak-Łojasiewicz 条件を満たす関数に対して、ProxSVRG+ は再起動を必要とせずグローバル線形収束を達成するが、これに対して ProxSVRG は同様の性質を有さない。
• ProxSVRG+ は、広範なミニバッチサイズの範囲で ProxGD を上回り、Reddi ら (2016b) が提起したオープンな問題を解決する。
• アルゴリズムは、SCSG の最高の既知の結果を非滑らかで非凸な状況に一般化し、適用範囲を拡大する。
• 実験結果は理論的予想を確認しており、ProxGD や ProxSVRG に対して一貫した性能向上を示している。