[論文レビュー] NESTT: A Nonconvex Primal-Dual Splitting Method for Distributed and Stochastic Optimization

Davood Hajinezhad, Mingyi Hong+2 more|arXiv (Cornell University)|May 25, 2016

Stochastic Gradient Optimization Techniques参考文献 24被引用数 23

ひとこと要約

NESTT は、非凸で、非滑らかで、有限和構造を持つ最適化問題に対して分散型・確率的最適化を実行する非凸なプライマル・デュアル分割法である。$\epsilon$-停留立解に到達するための勾配評価回数は $\mathcal{O}((\sum_{i=1}^{N}\sqrt{L_{i}/N})^{2}/\epsilon)$ であり、標準的勾配降下法に比べて最悪ケースで $\mathcal{O}(N)$ 倍速い。非凸 $\ell_{1}$-正則化二次問題に対して Q線形収束を達成でき、SAGA/SAG/IAG といったプライマルのみの手法と、プライマル・デュアル手法の間の根本的な関連性を明らかにする。

ABSTRACT

We study a stochastic and distributed algorithm for nonconvex problems whose objective consists of a sum of $N$ nonconvex $L_i/N$-smooth functions, plus a nonsmooth regularizer. The proposed NonconvEx primal-dual SpliTTing (NESTT) algorithm splits the problem into $N$ subproblems, and utilizes an augmented Lagrangian based primal-dual scheme to solve it in a distributed and stochastic manner. With a special non-uniform sampling, a version of NESTT achieves $ε$-stationary solution using $\mathcal{O}((\sum_{i=1}^N\sqrt{L_i/N})^2/ε)$ gradient evaluations, which can be up to $\mathcal{O}(N)$ times better than the (proximal) gradient descent methods. It also achieves Q-linear convergence rate for nonconvex $\ell_1$ penalized quadratic problems with polyhedral constraints. Further, we reveal a fundamental connection between primal-dual based methods and a few primal only methods such as IAG/SAG/SAGA.

研究の動機と目的

• 非凸で、非滑らかで、有限和構造を持つ最適化問題を対象とする分散型・確率的最適化アルゴリズムの開発。
• 成分関数の滑らかさ定数が不均一な非凸設定において、古典的勾配降下法よりも高速な収束を達成すること。
• 多面体制約付き非凸 $\ell_{1}$-正則化二次問題に対して Q線形収束を確立すること。
• 凸および非凸の両領域において、プライマル・デュアル手法とプライマルのみの手法（SAGA/SAG/IAG など）との理論的関連性を明らかにすること。

提案手法

• 変数 $z$ を $N$ 個の局所的コピー $x_i$ に分割し、等価制約 $x_i = z$ を増強ラグランジュ緩和によって強制する。
• 各反復で、1つのエージェントを確率的かつ非一様に選択し、その局所変数 $x_i$ を更新する。
• 各反復では、選択された $x_i$ に対してプロキシマル更新を実行し、その後にラグランジュ乗数 $\lambda_i$ に対するデュアル上昇ステップを実行する。
• デュアル変数を介して記憶メカニズムを活用し、過去の勾配情報を保持することで収束加速を実現する。
• 非一様なサンプリング戦略を特別に採用し、$\epsilon$-停留立解に到達するための勾配評価総数を最小化する。
• 理論的分析は、プライマル・デュアル最適性ギャップのバウンディングと、適切な仮定の下での逐次的収束速度および Q線形収束速度の確立に依存する。

実験結果

リサーチクエスチョン

• RQ1 プライマル・デュアル分割法は、非凸で、分散型・確率的最適化において、標準的勾配降下法よりも高速な収束を達成できるか？
• RQ2 提案された NESTT アルゴリズムは、多面体制約付き非凸 $\ell_{1}$-正則化二次問題に対して Q線形収束を達成するか？
• RQ3 プライマル・デュアル手法におけるデュアル変数は、SAGA/SAG/IAG といったプライマルのみの手法を一般化する記憶メカニズムとして解釈可能か？
• RQ4 滑らかさ定数 $L_i$ が非一様な分散型非凸有限和問題において、$\epsilon$-停留立解に到達するための最適な勾配複雑度は何か？
• RQ5 非一様サンプリングは、分散型非凸最適化における収束をどのように改善するか？

主な発見

• NESTT は、$\mathcal{O}((\sum_{i=1}^{N}\sqrt{L_{i}/N})^{2}/\epsilon)$ の勾配評価回数で $\epsilon$-停留立解に到達でき、最悪ケースでは標準的勾配降下法に比べて $\mathcal{O}(N)$ 倍速い。
• 多面体制約付き非凸 $\ell_1$-正則化二次問題に対して、NESTT は Q線形収束を示す。これは、この設定において確率的かつ分散型アルゴリズムで初めての結果である。
• NESTT のデュアル変数は、過去の勾配情報を記憶するメカニズムとして機能し、SAGA/SAG/IAG を非凸・非滑らか領域へ一般化可能であることを示す。
• 本手法は、プライマル・デュアル手法とプライマルのみの手法の間の理論的関連性を確立し、共通の枠組みで統一する。
• 収束解析により、一般の非凸・非滑らか条件下で、逐次的収束が停留立解集合に達することを証明した。
• 非一様サンプリングにより、成分関数の滑らかさ定数 $L_i$ が非一様であっても、収束保証が維持されることを示した。