[論文レビュー] Stochastic Methods for Composite and Weakly Convex Optimization Problems

John C. Duchi, Feng Ruan|arXiv (Cornell University)|Mar 24, 2017

Stochastic Gradient Optimization Techniques参考文献 23被引用数 16

ひとこと要約

本稿では、目的関数が非滑らかな凸関数と滑らかな写像の合成である複合的・弱凸的最適化問題を解くための確率的プロキシマル・線形法および部分勾配法を提案する。確率的または分布が不明な状況下でも、やや緩い条件下で、これらの手法は一次の停留所に収束し、非滑らかな位相再構成問題における理論的保証と実験的検証を伴う。

ABSTRACT

We consider minimization of stochastic functionals that are compositions of a (potentially) non-smooth convex function $h$ and smooth function $c$ and, more generally, stochastic weakly-convex functionals. We develop a family of stochastic methods---including a stochastic prox-linear algorithm and a stochastic (generalized) sub-gradient procedure---and prove that, under mild technical conditions, each converges to first-order stationary points of the stochastic objective. We provide experiments further investigating our methods on non-smooth phase retrieval problems; the experiments indicate the practical effectiveness of the procedures.

研究の動機と目的

• データアクセスが限られたりノイズが混在する状況下で、$ f(x) = \mathbb{E}_P[h(c(x;S);S)] $ の形をした確率的複合的目的関数を最小化する課題に対処すること。ここで $ h $ は凸関数、$ c $ は滑らかである。
• 目的関数が必ずしも凸でないが弱凸性条件を満たすような確率的および弱凸的設定に、プロキシマル・線形法を拡張すること。
• サンプリングのノイズや分布が未知である状況でも収束保証を維持する実用的な確率的アルゴリズムを開発すること。
• 複合的および一般の弱凸的確率的最適化問題に対して、一次の停留所への理論的収束を提供すること。
• 非滑らかな位相再構成問題における数値実験を通じて、提案手法の有効性を検証すること。

提案手法

• 目的関数 $ f(x) = h(c(x)) $ の線形化モデルを繰り返し最小化することで、確率的プロキシマル・線形アルゴリズムを提案する。ここで $ S \sim P $ のノイズを含むサンプルを用いる。
• モデル $ f_{x_k}(y) = h(c(x_k) + \nabla c(x_k)^T(y - x_k)) $ を定義し、これは $ y $ に関して凸である。このモデルを用いて、正則化子 $ \varphi $ とプロキシマル項を含む部分問題を構築する。
• 目的関数 $ f(x;S) $ の勾配推定値 $ g_k $ を用い、$ g_k \in \partial h(c(x_k);S) \cdot \nabla c(x_k;S) $ と定義し、$ x_{k+1} = \arg\min_{x \in X} \left\{ f_{x_k}(x) + \varphi(x) + \frac{1}{2\alpha_k}\|x - x_k\|^2 \right\} $ により反復を更新する。
• プロキシマル・線形モデルの計算コストが高くなる場合の代替として、確率的一般化部分勾配法を導入する。
• マルティンゲールおよび $ L^2 $-有界性の議論を用いて収束を確立し、反復列が有界であり、ほとんど確実に停留所に収束することを示す。
• ステップサイズ $ \alpha_k $、ノイズ $ L(S_k) $、減衰パrameter $ \lambda $ を含む $ \|x_k\| $ の再帰的境界を用いて、$ \|x_k\| $ が確率的に有界のままであることを証明する。

実験結果

リサーチクエスチョン

• RQ1 確率的プロキシマル・線形法は、分布のサンプルのみにアクセス可能な弱凸的・複合的確率的最適化問題へ拡張可能か？
• RQ2 確率的プロキシマル・線形法および部分勾配法は、非凸設定下でどのような条件下で一次の停留所に収束するか？
• RQ3 位相再構成のような非滑らかで非凸な問題において、提案手法は実際どのように動作するか？
• RQ4 目的関数が弱凸的または複合的である場合、反復列に対してどのような理論的保証を提供できるか？
• RQ5 確率的勾配およびノイズ項に緩い正則性条件とモーメント条件が与えられた場合、収束を確立できるか？

主な発見

• 弱凸的かつ複合的確率的最適化問題 $ f(x) = \mathbb{E}_P[h(c(x;S);S)] $ に対して、確率的プロキシマル・線形法は、$ h $ と $ \nabla c $ のリプシッツ連続性などのやや緩い技術的条件のもとで、ほとんど確実に一次の停留所に収束する。
• $ \mathbb{E}[L(S)^2] = 1 $ であると仮定すると、反復列 $ x_k $ はほとんど確実に確率的に有界であり、$ \sup_k \mathbb{E}[\|x_k\|] < \infty $ が成り立つ。ここで $ L(S) $ は確率的勾配を有界化する。
• マルティンゲール収束の議論により収束を達成する：ノイズ項 $ Z_k - \mathbb{E}[Z_k] \to 0 $ ほとんど確実に収束し、$ \|x_k\| $ が安定化することが保証される。
• 正則化子 $ \varphi $ は、$ \varphi $ の強制性および正則性仮定のもとで、反復列に沿って有界であることが示され、すべての $ k $ に対して $ \varphi(x_k) \leq B' $ が成り立つ。
• 確率的一般化部分勾配法についても、収束は停留所に達するが、収束速度はステップサイズ $ \alpha_k $ とノイズ構造に依存する。
• 非滑らかな位相再構成問題における数値実験により、提案手法の実用的有効性が示され、安定な収束性とノイズへのロバストネスが確認された。