[論文レビュー] On the O(1/k) Convergence of Asynchronous Distributed Alternating Direction Method of Multipliers

Ermin Wei, Asuman Ozdaglar|arXiv (Cornell University)|Jul 31, 2013

Distributed Control Multi-Agent Systems参考文献 39被引用数 44

ひとこと要約

本稿では、分離可能な目的関数と線形制約をもつ凸最適化のための非同期分散ADMMアルゴリズムを提案する。この手法は、グローバルな同期を必要とせず、ネットワークに接続されたエージェント間で分散計算を可能にする。目的関数値および制約違反の両方に対して、O(1/k)の収束速度を確立しており、部分勾配法のO(1/√k)の速度に比べ顕著に向上している。

ABSTRACT

We consider a network of agents that are cooperatively solving a global optimization problem, where the objective function is the sum of privately known local objective functions of the agents and the decision variables are coupled via linear constraints. Recent literature focused on special cases of this formulation and studied their distributed solution through either subgradient based methods with O(1/sqrt(k)) rate of convergence (where k is the iteration number) or Alternating Direction Method of Multipliers (ADMM) based methods, which require a synchronous implementation and a globally known order on the agents. In this paper, we present a novel asynchronous ADMM based distributed method for the general formulation and show that it converges at the rate O(1/k).

研究の動機と目的

• 同期的で部分勾配に基づく手法が、分散マルチエージェント最適化においてO(1/√k)の収束速度に起因する遅さを示すという限界を克服すること。
• グローバル時計や同期化されたエージェントの更新に依存しない、完全に非同期な分散アルゴリズムをADMMに基づいて開発すること。
• 一般の凸最適化フレームワークにおいて、目的関数値と実行可能性違反の両方に対して、O(1/k)の明示的収束速度を保証する収束保証を確立すること。
• 分離可能な目的関数と線形結合制約をもつ一般問題にADMMベースの手法を拡張し、実世界の分散学習やリソース割り当てタスクに適用可能とする。

提案手法

• エージェントが局所情報と遅延した隣接エージェントのデータを使用して、独立して変数を更新する非同期ADMMフレームワークを採用する。
• 結合制約を扱い、収束を保証するために罰則パラメータを用いた修正された増大ラグランジュ関数を導入する。
• ランダムに選択されたエージェントによる非同期更新を採用し、各エージェントが調整なしに局所計算と隣接エージェントとの通信を実行する。
• 収束解析は、期待値を用いた反復とリャプノフ関数を用い、時間経過に伴う双対ギャップと制約違反の上限を求める。
• 主な構成要素として、双対変数更新のための重み付きノルムの使用と、期待値の目的関数値と真の最適値との関係を示すジェンセンの不等式の適用。
• 理論的解析では、凸関数の性質と部分勾配不等式を活用し、O(1/k)の収束速度を導出する。

実験結果

リサーチクエスチョン

• RQ1 グローバルな同期を必要としない非同期ADMMベースの手法は、分散マルチエージェント最適化においてO(1/k)の収束を達成できるか？
• RQ2 提案された非同期ADMMの収束速度は、O(1/√k)の速度を示す既存の部分勾配ベースの手法と比べてどのように異なるか？
• RQ3 ネットワーク化されたシステムにおける非同期性と遅延情報の下で、実行可能性と目的関数値の収束に対する理論的保証は何か？
• RQ4 エージェントが任意の、おそらく不規則な間隔で更新する場合、アルゴリズムの収束はどのように行われるか？

主な発見

• 提案された非同期ADMMアルゴリズムは、確率的意味で最適解に収束する。
• 目的関数値は、部分勾配法のO(1/√k)の速度に比べ顕著に速いO(1/k)の速度で最適値に収束する。
• 制約違反（残差D̄x(T) + Hz(T)のノルムとして測定）もO(1/k)の速度で収束する。
• 強い凸性やリプシッツ勾配の仮定を必要とせず、一般の凸性仮定のもとで収束速度が確立されている。
• 理論的解析は非同期更新と遅延情報に対応しており、ネットワーク遅延やエージェントの不規則な活動に対してもロバストであることを示している。
• 収束バウンダリーは初期反復値、双対変数、および問題パラメータに依存するが、ネットワークトポロジーや更新タイミングにかかわらず、一様にO(1/k)のままである。