[論文レビュー] Asynchronous Distributed Optimization using a Randomized Alternating Direction Method of Multipliers

Franck Iutzeler, Pascal Bianchi+2 more|arXiv (Cornell University)|Mar 12, 2013

Distributed Control Multi-Agent Systems参考文献 1被引用数 22

ひとこと要約

本稿では、Douglas-Rachford分割法の確率的 Gauss-Seidel 変種に基づく非同期分散最適化アルゴリズムを提案する。この手法により、ネットワーク内のエージェントは調整なしに独立して自身の推定値を更新できる。この方法は、やや弱い接続性の仮定のもとで、コアリション最適化問題のグローバル最小値に収束し、数値実験では勾配ベースの代替手法を上回る性能を示す。

ABSTRACT

Consider a set of networked agents endowed with private cost functions and seeking to find a consensus on the minimizer of the aggregate cost. A new class of random asynchronous distributed optimization methods is introduced. The methods generalize the standard Alternating Direction Method of Multipliers (ADMM) to an asynchronous setting where isolated components of the network are activated in an uncoordinated fashion. The algorithms rely on the introduction of randomized Gauss-Seidel iterations of a Douglas-Rachford operator for finding zeros of a sum of two monotone operators. Convergence to the sought minimizers is provided under mild connectivity conditions. Numerical results sustain our claims.

研究の動機と目的

• 計算時間のばらつきが大きい異種ネットワークにおける同期分散最適化の非効率性を解消すること。
• エージェントが局所的情報に基づき、ランダムに活性化される独立した完全非同期アルゴリズムを開発すること。
• 確率的単調作用素分割を用いて、ADMM フレームワークを非同期設定に一般化すること。
• 調整のオーバーヘッドを回避するため、最小限の接続性および活性化条件のもとで収束を証明すること。
• 数値実験において、同期 ADMM や分散勾配降下法と比較して優れた性能を示すこと。

提案手法

• アルゴリズムは、2つの単調作用素の和を解くために、Douglas-Rachford 演算子の確率的 Gauss-Seidel 繰り返しを用いる。これは、コアリション最適化問題の双対問題をモデル化する。
• 各エージェントは、局所変数を維持する：プライム推定値 $x(v)$、双対変数 $\lambda(v)$、およびその近隣のための共通変数 $\bar{z}_\ell$。
• 各ステップで、ランダムに選ばれたエージェントまたはエッジが、問題の増強ラグランジアンに基づく近接作用素を用いて局所変数を更新する。
• 近接更新は、局所コスト関数 $f_v$ と、近隣の共通変数および双対推定値の重み付き平均を用いて計算される。
• 通信は近隣に限定され、活性化されたエージェントのみが状態を更新し、他のエージェントは以前の値を保持する。
• ランダムかつ独立した活性化と非同期的状態伝搬に依存することで、グローバルな同期を回避する。

実験結果

リサーチクエスチョン

• RQ1 グローバルな調整や同期が不要な分散 ADMM の変種を設計できるか？
• RQ2 ランダムかつ独立したエージェントの活性化のもとで、非同期 ADMM の収束保証はどの程度得られるか？
• RQ3 Douglas-Rachford 分割法への確率的 Gauss-Seidel アプローチが、分散最適化における収束をどのように改善するか？
• RQ4 ネットワークの接続性と活性化頻度が、非同期アルゴリズムの収束速度に与える影響は何か？
• RQ5 提案手法は、同期 ADMM や確率的ガスピングを用いた分散勾配降下法と比較して、性能でどのように優れるか？

主な発見

• 提案された非同期 ADMM は、ネットワークグラフのやや弱い接続性仮定のもとで、コアリション最適化問題のグローバル最小値に収束する。
• エージェントが調整なしに任意のランダムな間隔で活性化されても、収束が保証される。
• 数値結果から、$1/\sqrt{k}$ ステップサイズを用いた分散勾配降下法と比較して、収束速度および誤差の減少において非同期 ADMM が優れていることが示された。
• 実際の運用では線形収束率を維持し、誤差の二乗が勾配ベースの手法よりも著しく速く減少する。
• 異種計算時間やエージェント間の変動する活性化頻度に対しても、アルゴリズムは頑健である。
• エッジベースの活性化と近隣間通信を用いた実装により、最小限のメッセージ送信で効果的な共通化が達成された。