[論文レビュー] A Linearly Convergent Proximal Gradient Algorithm for Decentralized Optimization

Sulaiman A. Alghunaim, Kun Yuan+1 more|arXiv (Cornell University)|May 20, 2019

Distributed Control Multi-Agent Systems参考文献 54被引用数 33

ひとこと要約

本論文は共通の非滑らかな正則化項を持つ近接勾配法による分散最適化アルゴリズムを提案し、滑らかな部分の強凸性の下でグローバル線形収束を証明する。さらに、R=0 の場合に EXTRA へ拡張する簡潔な解析と、収束速度・ステップサイズの洞察を提供する。

ABSTRACT

Decentralized optimization is a powerful paradigm that finds applications in engineering and learning design. This work studies decentralized composite optimization problems with non-smooth regularization terms. Most existing gradient-based proximal decentralized methods are known to converge to the optimal solution with sublinear rates, and it remains unclear whether this family of methods can achieve global linear convergence. To tackle this problem, this work assumes the non-smooth regularization term is common across all networked agents, which is the case for many machine learning problems. Under this condition, we design a proximal gradient decentralized algorithm whose fixed point coincides with the desired minimizer. We then provide a concise proof that establishes its linear convergence. In the absence of the non-smooth term, our analysis technique covers the well known EXTRA algorithm and provides useful bounds on the convergence rate and step-size.

研究の動機と目的

• エージェント間で共通の非滑らかな正則化項を用いた分散型複合最適化を動機づける。
• 固定点がグローバル最小解と一致する近接勾配型の分散アルゴリズムを設計する。
• 総和された滑らかな部分の強凸性の下でグローバルな線形収束を証明する。
• 非滑らか項が存在しない場合に既知の EXTRA との適合性を示し、収束洞察を導出する。

提案手法

• ネットワーク行列 A を用いた合意制約を伴う制約付き最適化として分散問題を定式化する。
• 鞍点再若化を導出し、更新式 (10a)-(10c) を持つ近接的プライマル-デュアル拡散（P2D2）アルゴリズムを導出する。
• Z という単一の補助ベクトルを更新し、(14) のように R の近接作用素を用いる分散実装に切り替える。
• 隣接ノードとの局所通信のみを必要とする具体的なエージェントごとの手順（P2D2）（15）を提供する。
• グローバル解の固定点の存在と一意性を確立する（Lemma 1）。
• B 構造のペナルティを含む増強コストと降下不等式を活用した線形収束証明の枠組みを構築する（Lemmas 2–4）。

実験結果

リサーチクエスチョン

• RQ1 共通の非滑らか正則化項を持つ分散近接勾配法はグローバル最小解へ線形収束することができるか？
• RQ2 分散設定で滑らかな部分とステップサイズのどの条件下で線形収束が成立するか？
• RQ3 提案手法は非滑らか項が欠如する場合に既存のアルゴリズム（ EXTRA など）とどのように関連し、特化するか？
• RQ4 解析から導かれる収束速度とステップサイズの境界はどのようなものか？

主な発見

• Proximal primal-dual diffusion（P2D2）アルゴリズムは、Assumption 1と適切なステップサイズ条件の下でグローバル最小解へ線形収束する。
• グローバル解に対応する固定点の存在と一意性が確立される（Lemma 1）。
• R=0 のとき、手法は EXTRA に関連する形に縮小され、解析はレート関連の境界とステップサイズの指針を提供する。
• B ペナルティを伴う増強コスト枠組みは制限付き強凸性をもたらし、線形収束保証を可能にする（Lemma 2）。
• 降下と誤差境界が導出され、反復の誤差を収縮因子に結びつけ、主な線形収束結果へと繋がる（Lemmas 3–4）。