[論文レビュー] Asynchronous decentralized accelerated stochastic gradient descent

Guanghui Lan, Yi Zhou|arXiv (Cornell University)|Sep 24, 2018

Distributed Control Multi-Agent Systems参考文献 22被引用数 7

ひとこと要約

本稿では、一般の凸問題に対して最適な通信量とサンプリング量を達成する非同期分散型加速確率的勾配降下法（ADPD）を提案する。二重に確率的なプライマル・デュアル枠組みと非同期なエージェントの活性化を用いることで、一般の凸問題に対して$Ø(1/\epsilon)$の通信量と$Ø(1/\epsilon^2)$のサンプリング量を達成し、強い凸問題に対してはそれぞれ$Ø(1/\sqrt{\epsilon})$および$Ø(1/\epsilon)$を達成する。

ABSTRACT

In this work, we introduce an asynchronous decentralized accelerated stochastic gradient descent type of method for decentralized stochastic optimization, considering communication and synchronization are the major bottlenecks. We establish $\mathcal{O}(1/ε)$ (resp., $\mathcal{O}(1/\sqrtε)$) communication complexity and $\mathcal{O}(1/ε^2)$ (resp., $\mathcal{O}(1/ε)$) sampling complexity for solving general convex (resp., strongly convex) problems.

研究の動機と目的

• 大規模ネットワークにおける通信遅延や処理遅延の影響により、同期型分散最適化が非効率であるという問題を解決する。
• グローバルな同期を必要とせず、最適な収束速度を維持する非同期アルゴリズムの開発。
• 正確な勾配に依存するか、加速が欠如している既存の非同期確率的手法の限界を克服する。
• 一様な滑らかさと曲率条件の下で、一般の凸問題および強い凸問題に対して最適な通信量とサンプリング量の複雑度を達成する。
• 従来の同期型通信効率の良い手法を非同期設定に拡張し、最適な複雑度境界を保持する。

提案手法

• 1回の反復で2つのエージェントを確率的に活性化することで、同期のオーバーヘッドを低減する非同期分散型プライマル・デュアル（ADPD）手法を提案する。
• 活性化されたエージェントとその近隣エージェント間で、1反復あたり2回の通信を実施する二重確率的スキームを採用する。
• 効率的なデュアル変数の更新を可能にするために、分散最適化問題のプライマル・デュアル鞍点定式化を導入する。
• ネステロフ型加速技術から導出された適応的ステップサイズおよびモーメンタム型パrameterを用いて収束を加速する。
• ストリーミングまたはオンラインデータに適した、ノイズのある勾配情報を取り扱う確率的部分勾配オラクルを設計する。
• プライマル最適性ギャップと実行可能性残差の両方を追跡するリャプノフ関数解析を用いて収束を確立する。

実験結果

リサーチクエスチョン

• RQ1 非同期分散アルゴリズムは、最良の同期型手法と同等の最適な通信量とサンプリング量を達成できるか？
• RQ2 勾配が確率的で通信が非同期な状況下で、エージェントの確率的活性化が収束に与える影響は何か？
• RQ3 集中型確率的最適化における加速技術を、ノイズのある勾配を持つ非同期分散設定に適応可能か？
• RQ4 ネットワーク構造やエージェントの非均質性が、非同期更新下での収束に与える影響は何か？
• RQ5 目的関数が一般化された滑らかさと曲率条件（2）を満たす場合、提案手法は最適な複雑度境界を維持するか？

主な発見

• ADPD手法は、一般の凸問題に対して$Ø(1/\epsilon)$の通信量と$Ø(1/\epsilon^2)$のサンプリング量を達成する。
• 強い凸問題に対しては、$Ø(1/\sqrt{\epsilon}})$の通信量と$Ø(1/\epsilon)$のサンプリング量を達成する。
• 非同期性があるにもかかわらず、同期型通信効率の良い手法から得られる最良の境界と同等の収束速度を達成する。
• 正確な部分勾配を必要とせず、ノイズのある勾配情報に対してもロバストであるため、オンラインおよびストリーミングデータに適している。
• 理論的分析により、一般化された滑らかさと曲率条件（2）の下で、最適解へのほとんど確実な収束が確認された。
• エージェントが非同期に活性化され、通信が近隣エージェント間のみに制限されても、最適な複雑度が維持される。