[論文レビュー] A Stochastic Proximal Gradient Framework for Decentralized Non-Convex Composite Optimization: Topology-Independent Sample Complexity and Communication Efficiency

Ran Xin, Subhro Das+2 more|arXiv (Cornell University)|Oct 4, 2021

Distributed Control Multi-Agent Systems参考文献 70被引用数 6

ひとこと要約

本稿では、ネットワーク上での分散型非凸複合最適化のための新規な確率的近接勾配フレームワークであるProxGTを提案する。局所的な確率的勾配と一貫性に基づく情報交換を活用することで、ネットワークのトポロジーに依存しないサンプル複雑度と、集中型最適手法に比べて線形速度向上を達成し、中央の調整者なしで効率的かつスケーラブルな大規模学習を可能にする。

ABSTRACT

Decentralized optimization is a promising parallel computation paradigm for large-scale data analytics and machine learning problems defined over a network of nodes. This paper is concerned with decentralized non-convex composite problems with population or empirical risk. In particular, the networked nodes are tasked to find an approximate stationary point of the average of local, smooth, possibly non-convex risk functions plus a possibly non-differentiable extended valued convex regularizer. Under this general formulation, we propose the first provably efficient, stochastic proximal gradient framework, called ProxGT. Specifically, we construct and analyze several instances of ProxGT that are tailored respectively for different problem classes of interest. Remarkably, we show that the sample complexities of these instances are network topology-independent and achieve linear speedups compared to that of the corresponding centralized optimal methods implemented on a single node.

研究の動機と目的

• 中央の調整者なしで大規模ネットワークにおける分散型非凸複合最適化を扱うこと。
• 一般の非凸かつ非滑らか設定下でも、近似停留点への収束を保証する確率的近接勾配フレームワークを開発すること。
• ネットワークのトポロジーに依存しないサンプル複雑度と、集中型最適手法に比べて線形速度向上を達成すること。
• 分散環境下で、母集団リスクと経験的リスク最小化の両方の定式化をサポートすること。

提案手法

• 局所的な確率的勾配推定と一貫性に基づくネットワーク通信を組み合わせた、確率的近接勾配アルゴリズムであるProxGTを提案する。
• ノード間の局所的勾配近似の分散を低減するために、二重確率的勾配推定器を用いる。
• 混合行列を用いた一貫性メカニズムを採用し、ノード状態の同期化と通信オーバーヘッドの低減を実現する。
• 局所的勾配分散とネットワークトポロジー効果を分離する、新規な誤差バインディング解析を導入する。
• 加速された一貫性技術を適用し、フレームワーク全体の通信効率をさらに向上させる。
• 滑らかさと凸性の仮定の下で、降下不等式とテレスコピング和の議論を用いて理論的収束保証を導出する。

実験結果

リサーチクエスチョン

• RQ1 分散型確率的近接勾配法は、非凸複合最適化においてトポロジーに依存しないサンプル複雑度を達成できるか？
• RQ2 提案されたフレームワークは、集中型最適手法に比べて線形速度向上を達成するか？
• RQ3 収束保証を損なわずに、分散型非凸最適化における通信効率をどのように向上できるか？
• RQ4 このフレームワークは、同一の理論的保証のもとで母集団リスクと経験的リスク最小化の両方を処理できるか？
• RQ5 分散型学習における非凸性下で、分散低減と一貫性の役割は何か？

主な発見

• ProxGTのサンプル複雑度はネットワークのトポロジーに依存しない。これは、先行する分散型手法に比べ顕著な改善である。
• 非凸的かつ非滑らかな目的関数下でも、集中型最適手法に比べて線形速度向上を達成する。
• 加速された一貫性を用いることで通信複雑度が向上し、収束に必要な通信ラウンド数が削減される。
• 母集団リスクと経験的リスク最小化の両方を、近似停留点への収束が保証される形でサポートする。
• 理論的解析により、確率的勾配と一貫性に起因する誤差項が有界であり、反復処理において効果的にテレスコピングすることが確認された。
• 数値結果により、ProxGTが多様なネットワークトポロジーと問題サイズにおいて、効率性とスケーラビリティを維持することが示された。