[論文レビュー] Fast Stochastic Variance Reduced ADMM for Stochastic Composition Optimization

Yue Yu, Longbo Huang|arXiv (Cornell University)|May 11, 2017

Stochastic Gradient Optimization Techniques参考文献 12被引用数 3

ひとこと要約

本稿では、線形制約を伴う確率的合成最適化のための、初めてのADMMベースのアルゴリズムであるcom-SVR-ADMMを提案する。確率的分散低減を活用することで、強い凸性およびリプシッツ滑らかさを満たす問題に対して線形収束を達成し、凸ケースでは$O(\log S/S)$の改善された収束レートを達成する。従来の手法に比べ、収束速度とロバスト性において優れている。

ABSTRACT

We consider the stochastic composition optimization problem proposed in \cite{wang2017stochastic}, which has applications ranging from estimation to statistical and machine learning. We propose the first ADMM-based algorithm named com-SVR-ADMM, and show that com-SVR-ADMM converges linearly for strongly convex and Lipschitz smooth objectives, and has a convergence rate of $O( \log S/S)$, which improves upon the $O(S^{-4/9})$ rate in \cite{wang2016accelerating} when the objective is convex and Lipschitz smooth. Moreover, com-SVR-ADMM possesses a rate of $O(1/\sqrt{S})$ when the objective is convex but without Lipschitz smoothness. We also conduct experiments and show that it outperforms existing algorithms.

研究の動機と目的

• 機械学習や推定分野における、線形制約を伴う確率的合成最適化のための効率的でスケーラブルなアルゴリズムの不足に対処すること。
• 従来、標準的な確率的最適化に用いられてきた分散低減技術を、合成目的関数のADMMフレームワークに拡張すること。
• 既存の部分線形レートアルゴリズムよりも速い収束を達成する手法の開発、特に凸および強い凸設定における性能向上。
• ADMMを用いて正則化および制約を自然に組み込むことで、リスク回避学習や動的計画法などの実世界問題への広範な応用可能性を高めること。

提案手法

• 確率的合成問題のための増大ラグランジュフレームワークに、確率的分散低減（SVR）を統合したADMMベースのアルゴリズムであるcom-SVR-ADMMを提案する。
• 二重ループ構造を採用：外側のループで双対変数を更新し、内側のループで合成目的関数の分散低減勾配推定を実行する。
• 内側および外側の関数の両方で、確率的勾配の分散低減を適用することで、収束の安定性と速度を向上させる。
• 増大ラグランジュの構造を活用し、期待される非最適性および制約違反をバインドするための新しいリャプノフ関数解析を導入する。
• 非i.i.d.サンプリングおよび有限標本設定下でも収束を維持するため、適応的ステップサイズと再帰的平均化スキームを採用する。
• 反復回ごとの期待されるプライマル・デュアルギャップおよび制約違反の減少を分析することで、収束保証を導出する。

実験結果

リサーチクエスチョン

• RQ1 分散低減技術は、確率的合成最適化の文脈においてADMMフレームワークに効果的に適応可能か？
• RQ2 SVRとADMMを組み合わせることで、確率的合成最適化の文脈でどの程度の収束レートが達成可能か？
• RQ3 収束速度とロバスト性の観点から、com-SVR-ADMMは既存の部分線形レートアルゴリズムに比べてどのように優れているか？
• RQ4 目的関数が凸であるがリプシッツ滑らかでない場合、アルゴリズムはどのように動作し、その場合の達成可能なレートは何か？
• RQ5 線形制約および正則化の組み込みが、リスク回避学習や動的計画法などの実世界問題における実用的性能を向上させるか？

主な発見

• com-SVR-ADMMは、強い凸性およびリプシッツ滑らかさを満たす目的関数に対して線形収束を達成し、従来の部分線形レートに比べ顕著な改善を示す。
• 凸かつリプシッツ滑らかな目的関数に対しては、収束レートが$O(\log S / S)$となり、Wangら（2016b）の$O(S^{-4/9})$レートを上回る。
• 目的関数が凸であるがリプシッツ滑らかでない場合、収束レートは$O(1/\sqrt{S})$を達成する。
• 実験結果から、複数のベンチマーク問題において、収束速度および解の品質の両面で既存のアルゴリズムを上回ることが示された。
• 非一様サンプリングおよび有限標本設定下でも、安定性と高速な収束を維持し、ロバスト性を示した。
• 理論的分析により、制約違反および非最適性が提示されたレートで減少することが確認され、リャプノフ関数および再帰的バウンディング技術によって裏付けられた。