[論文レビュー] Online Distributed ADMM on Networks

Saghar Hosseini, Airlie Chapman+1 more|arXiv (Cornell University)|Dec 22, 2014

Distributed Control Multi-Agent Systems参考文献 34被引用数 4

ひとこと要約

本稿では、時間変動する局所的コストと線形一貫性制約のもとで、合成凸目的関数を最適化するネットワーク化されたエージェントのためのオンライン分散ADMMアルゴリズムを提案する。デュアル平均化と分散勾配降下法を組み合わせることで、ネットワークトポロジーと制約条件測度に依存するサブ線形社会的レグレットバウンドを達成し、フォーメーション取得アプリケーションで検証された。

ABSTRACT

This paper examines online distributed Alternating Direction Method of Multipliers (ADMM). The goal is to distributively optimize a global objective function over a network of decision makers under linear constraints. The global objective function is composed of convex cost functions associated with each agent. The local cost functions, on the other hand, are assumed to have been decomposed into two distinct convex functions, one of which is revealed to the decision makers over time and one known a priori. In addition, the agents must achieve consensus on the global variable that relates to the private local variables via linear constraints. In this work, we extend online ADMM to a distributed setting based on dual-averaging and distributed gradient descent. We then propose a performance metric for such online distributed algorithms and explore the performance of the sequence of decisions generated by the algorithm as compared with the best fixed decision in hindsight. This performance metric is called the social regret. A sub-linear upper bound on the social regret of the proposed algorithm is then obtained that underscores the role of the underlying network topology and certain condition measures associated with the linear constraints. The online distributed ADMM algorithm is then applied to a formation acquisition problem demonstrating the application of the proposed setup in distributed robotics.

研究の動機と目的

• 時間変動するコスト関数に直面するエージェントが共有変数に関して一貫性を達成するネットワークにおける分散オンライン最適化アルゴリズムの開発。
• オンライン意思決定と後悔の最適固定意思決定を比較する新しい指標「社会的レグレット」を用いた性能分析。
• ネットワークトポロジーと制約条件測度がアルゴリズムの収束およびレグレットに与える影響の定量化。
• 局所プライマリ変数やコスト関数を共有しないで、デュアル変数のみを通信することで、プライバシー保護型分散意思決定を実現。
• 分散ロボティクスにおけるフォーメーション取得問題を通じた適用可能性の提示。

提案手法

• オンラインコスト関数が時間とともに明らかになる状況に対応するため、ADMMをデュアル平均化を用いて拡張し、分散計算を維持する。
• 各エージェントは、局所的コストとデュアル変数に基づく投影勾配ステップを用いて、局所プライマリ変数を更新する。
• デュアル変数は、隣接エージェント間でのみ情報交換を行う分散勾配降下法で更新され、プライバシーを保持する。
• エージェント間で平均プライマリ変数θₜを追跡し、ネットワークミキシング特性を用いて収束をバウンドする。
• リャプノフに類似した解析を用いて、ネットワーク行列Pのスペクトル特性と制約の条件測度を組み込んだサブ線形レグレットバウンドを導出する。
• フォーメーション取得問題にアルゴリズムを適用し、動的コスト関数下での位置と速度の共同最適化を実現する。

実験結果

リサーチクエスチョン

• RQ1 時間変動する局所的コストと一貫性制約を有する分散ネットワーク設定において、オンラインADMMをどのように拡張できるか？
• RQ2 分散システムにおいて、オンライン意思決定と後悔最適意思決定のトレードオフを最も適切に捉える性能指標は何か？
• RQ3 ネットワークトポロジーと制約条件測度は、分散オンラインアルゴリズムの収束速度とレグレットにどのように影響するか？
• RQ4 通信をデュアル変数のみに制限することで、分散オンライン最適化におけるプライバシーをどのように保護できるか？
• RQ5 一般凸制約下で、分散オンラインADMMアルゴリズムが達成可能な理論的サブ線形レグレットバウンドは何か？

主な発見

• 標準仮定の下で、社会的レグレットのサブ線形上界が確立され、O(√T)のスケーリングを示し、ネットワークスペクトルギャップと制約条件測度に依存する。
• レグレットバウンドは、ネットワークミキシング行列Pの第二固有値の絶対値σ₂(P)を明示的に組み込み、収束に与えるネットワーク効果を定量化している。
• アルゴリズムは線形制約の条件測度に依存するレグレットバウンドを達成しており、条件数が悪いほどレグレットが高くなる。
• デュアル平均化の使用により、プライバシー保護が実現され、局所プライマリ変数やコスト関数を共有しないでよい。
• 理論的レグレットバウンドは、フォーメーション取得の事例研究で検証され、分散ロボティクスにおける実用的妥当性とスケーラビリティを示した。
• 時間変動コスト下でもO(1/√T)の収束レートを維持でき、中央集権的オンライン最適化における既知のレートと一致する。