[論文レビュー] Decentralized Consensus Optimization with Asynchrony and Delays

Tianyu Wu, Kun Yuan+3 more|arXiv (Cornell University)|Dec 1, 2016

Distributed Control Multi-Agent Systems参考文献 41被引用数 9

ひとこと要約

本稿では、固定ステップサイズとエッジごとの双対変数を用いて、遅延が有界および無限大であっても正確な解に収束する非同期的・分散型のプライマル・デュアルアルゴリズムを提案する。エージェントは遅延した隣接情報に基づいて独立して計算・通信を行うことができ、グローバルな同期を必要とせず、ランダムなエージェント活性化と有界な遅延のもとで収束保証を維持する。

ABSTRACT

We propose an asynchronous, decentralized algorithm for consensus optimization. The algorithm runs over a network in which the agents communicate with their neighbors and perform local computation. In the proposed algorithm, each agent can compute and communicate independently at different times, for different durations, with the information it has even if the latest information from its neighbors is not yet available. Such an asynchronous algorithm reduces the time that agents would otherwise waste idle because of communication delays or because their neighbors are slower. It also eliminates the need for a global clock for synchronization. Mathematically, the algorithm involves both primal and dual variables, uses fixed step-size parameters, and provably converges to the exact solution under a bounded delay assumption and a random agent assumption. When running synchronously, the algorithm performs just as well as existing competitive synchronous algorithms such as PG-EXTRA, which diverges without synchronization. Numerical experiments confirm the theoretical findings and illustrate the performance of the proposed algorithm.

研究の動機と目的

• グローバルな同期や遅いエージェントの待機を必要とせずに非同期に動作する分散最適化アルゴリズムを開発すること。
• 通信および計算遅延が有界および無限大であっても、正確な解への収束を保証すること。
• PG-EXTRAアルゴリズムを非同期設定に拡張するために、遅延情報に対する耐性を高めるためにエッジベースの双対変数を導入すること。
• 同期が高コストまたは不可能な大規模かつ異種のネットワークでの実用的導入を可能にすること。
• 行列補完や幾何的中央値計算を含む凸および非凸問題において、アルゴリズムの性能を検証すること。

提案手法

• エッジごとの双対変数を用いたプライマル・デュアル定式化により、遅延した隣接情報に対処する。
• 各エージェントは、ランダムな活性化スケジュールに従い、おそらく古くなった隣接データに基づいて、局所変数および双対変数を独立して更新する。
• 更新ルールは、局所計算に加え、重み付きの遅延した隣接変数と双対変数の組み合わせを用い、固定ステップサイズを採用する。
• 収束の安定化のための緩和パラメータを導入し、ランダムエージェント仮定のもとで収束を保証する。
• PG-EXTRAの非同期拡張としてアルゴリズムを導出しており、正確な収束を維持するためエッジに明示的な双対変数を導入する。
• 双対変数を含まないバージョンのアルゴリズムも提案・評価し、収束速度と耐性のトレードオフを示す。

実験結果

リサーチクエスチョン

• RQ1 エージェントが任意の遅延を伴って非同期に動作する場合、分散最適化アルゴリズムが正確な解に収束できるか？
• RQ2 エッジベースの双対変数の導入により、従来の同期アルゴリズムと比較して非同期設定における収束の耐性がどのように向上するか？
• RQ3 大規模な分散ネットワークにおいて、グローバル同期を排除することで得られる性能向上は何か？（処理および通信遅延の異種性を考慮して）
• RQ4 非同期プライマル・デュアルアルゴリズムは、非同期ADMMおよび同期PG-EXTRAと比較して、収束速度および精度の面でどのように差がつくか？
• RQ5 固定ステップサイズおよび緩和パラメータが、無限大の遅延のもとでの収束安定性に与える影響は何か？

主な発見

• 提案された非同期アルゴリズムは、ランダムエージェント活性化仮定および有界・無限大の遅延のもとで、確率1で正確な解に収束する。
• 同期的に実行した場合、競合する同期アルゴリズムであるPG-EXTRAと同等の性能を示し、同期障害時にも発散を回避する。
• 20ノードのネットワークにおいて、非同期アルゴリズムは同じ時間内に同期バージョンよりも29倍多くの計算および通信ラウンドを完了した。
• 数値結果から、幾何的中央値問題において非同期ADMMを上回り、同じパrameter設定のもとでより速く収束することが示された。
• 固定ステップサイズを用いても収束が速く保たれ、ステップサイズの減少やグローバルな調整を必要としない。
• エッジベースの双対変数の使用により、遅延情報があっても正確な収束が可能であり、PG-EXTRAとは異なり非同期設定でも発散しない。