[論文レビュー] On the linear convergence of the projected stochastic gradient method with constant step-size

Volkan Cevher, Bằng Công Vũ|arXiv (Cornell University)|Dec 5, 2017

Stochastic Gradient Optimization Techniques参考文献 15被引用数 2

ひとこと要約

本稿は、定数ステップサイズを用いた投影確率的勾配法（PSGM-CS）の線形収束に関して、強い成長条件（SGC）が必要かつ十分であることを確立している。SGCが加法的摂動 $\sigma$ によって破られる場合、PSGM-CSおよびProximal確率的勾配法は、最適解の近傍に線形収束し、その誤差は $\gamma\sigma$ に比例する。ここで $\gamma$ はステップサイズである。

ABSTRACT

The strong growth condition (SGC) is known to be a sufficient condition for linear convergence of the projected stochastic gradient method using a constant step-size $\gamma$ (PSGM-CS). In this paper, we prove that SGC is also a necessary condition for the linear convergence of PSGM-CS. Moreover, when SGC is violated up to a additive perturbation $\sigma$, we show that both PSGM-CS and the proximal stochastic gradient method exhibit linear convergence to a noise dominated region, whose distance to the optimal solution proportional to $\gamma \sigma$.

研究の動機と目的

• 定数ステップサイズを用いた投影確率的勾配法（PSGM-CS）の線形収束に関して、強い成長条件（SGC）が十分であるだけでなく、必要であるかどうかを同定すること。
• SGCが加法的摂動 $\sigma$ によって破られる場合、PSGM-CSおよびProximal確率的勾配法の挙動を分析すること。
• このような摂動が存在する状況における収束精度を定量化すること、特にノイズ主導領域における最適解からの距離を明確にすること。
• 摂動を伴うSGC条件下での線形収束レートに関する理論的保証を確立すること。

提案手法

• PSGM-CSにおける勾配ノイズをモデル化するため、確率的近似およびマルティンゲール差分列を用いた理論的分析。
• SGCを仮定し、および加法的摂動 $\sigma$ による違反を仮定したもとでの収束バウンドの導出。
• リャプノフ関数技法を用いて反復の安定性および収束速度の分析。
• 同一の摂動条件の下でPSGM-CSとProximal確率的勾配法を比較すること。
• 収束速度と最終的精度のトレードオフを定量化するために、定数ステップサイズ $\gamma$ を制御パラメータとして用いること。
• 矛盾による背理法を用いた、SGCが線形収束に必要であることを形式的に証明。SGCが成立しない場合の反例を構築すること。

実験結果

リサーチクエスチョン

• RQ1 定数ステップサイズを用いた投影確率的勾配法の線形収束に関して、強い成長条件（SGC）は必要であるか？
• RQ2 SGCが加法的摂動 $\sigma$ によって破られる場合、PSGM-CSの収束挙動はどのように変化するか？
• RQ3 PSGM-CSおよびProximal確率的勾配法の最終的収束精度は、摂動 $\sigma$ およびステップサイズ $\gamma$ に対してどのようにスケーリングされるか？
• RQ4 SGCが厳密に満たされない状況において、有界なノイズが存在する場合でも線形収束を保証できるか？

主な発見

• 強い成長条件（SGC）は、定数ステップサイズを用いた投影確率的勾配法（PSGM-CS）の線形収束にとって、必要かつ十分である。
• SGCが加法的摂動 $\sigma$ によって破られる場合、PSGM-CSは、最適解からの距離が $\gamma\sigma$ に比例するノイズ主導領域に線形収束する。
• Proximal確率的勾配法も、同一の摂動条件下で最適解の近傍に線形収束する。
• 収束速度はSGCの違反に対しても依然として線形のままであるが、最終的精度はステップサイズ $\gamma$ と摂動の大きさ $\sigma$ の積に比例して劣化する。
• 理論的分析により、SGCが成立しない場合には線形収束を保証できないことが確認され、SGCの必要性が裏付けられた。
• 本研究の結果は、ノイズや不完全な勾配条件が存在する確率的1次最適化法における、収束速度と最終的精度のトレードオフを明確に特定している。