[論文レビュー] Average Consensus in Nearly Linear Time on Fixed Graphs and Implications for Decentralized Optimization and Multi-Agent Control.

Alex Olshevsky|arXiv (Cornell University)|Nov 15, 2014

Distributed Control Multi-Agent Systems被引用数 3

ひとこと要約

本稿では、任意の固定された無向グラフ上で、ノード数 $n$ に比例する線形時間で収束する分散平均一致プロトコルを提示する。このプロトコルは、すべてのノードが $n$ の定数倍の上界 $U$ を知っていることのみを要件としている。この手法により、分散最適化およびフォーメーション維持やリーダーフォロワー協調といったマルチエージェント制御タスクにおいて線形時間収束が可能となり、$T$ イタレーション後の凸関数の平均最小化において誤差境界が $O(L ilde{n/T})$ となる。

ABSTRACT

We describe a protocol for the average consensus problem on any fixed undirected graph whose convergence time scales linearly in the total number nodes $n$. The protocol is completely distributed, with the exception of requiring all nodes to know the same upper bound $U$ on the total number of nodes which is correct within a constant multiplicative factor. We next discuss applications of this protocol to problems in multi-agent control connected to the consensus problem. In particular, we describe protocols for formation maintenance and leader-following with convergence times which also scale linearly with the number of nodes. Finally, we develop a distributed protocol for minimizing an average of (possibly nondifferentiable) convex functions $ (1/n) \sum_{i=1}^n f_i( heta)$, in the setting where only node $i$ in an undirected, connected graph knows the function $f_i( heta)$. Under the same assumption about all nodes knowing $U$, and additionally assuming that the subgradients of each $f_i( heta)$ have absolute values upper bounded by some constant $L$ known to the nodes, we show that after $T$ iterations our protocol has error which is $O(L \sqrt{n/T})$.

研究の動機と目的

• 固定された無向グラフ上で線形収束時間を持つ分散平均一致プロトコルの設計。
• 各ノードが局所的凸関数を持つネットワーク上で効率的な分散最適化を可能にする。
• フォーメーション維持やリーダーフォロワー協調といったマルチエージェント制御タスクを、線形時間収束でサポートする。
• 最小限のグローバル知識（ノード数 $n$ の定数倍の上界 $U$ のみ）で収束を保証する。

提案手法

• プロトコルは、固定された無向グラフ上の局所平均化とエッジ重み付きラプラシアンダイナミクスに基づく分散反復スキームを用いる。
• グラフラプラシアンのスペクトル特性を活用することで、$O(n)$ ステップの時間で収束を保証する。
• 各ノードは、隣接ノードの状態の重み付き平均を用いて自身の状態を更新し、重みは $n$ の固定で既知の上界 $U$ から導出される。
• プロトコルは $U$ の共有知識を除き、完全に分散化されている。$U$ は収束パラメータの設定に用いられる。
• 分散最適化の文脈では、各ノードが局所関数 $f_i(\theta)$ と局所的サブ勾配情報に基づいて、サブ勾配降下法を分散的に適用する。
• 最適化プロトコルの収束速度は、サブ勾配誤差境界と、サブ勾配が $L$ で一様に有界であるという仮定を用いて導出される。

実験結果

リサーチクエスチョン

• RQ1 任意の固定された無向グラフ上で、完全に分散化されたプロトコルによって線形時間で平均一致を達成できるか？
• RQ2 分散一致で線形時間収束を達成するために必要な最小限のグローバル情報は何か？
• RQ3 線形時間収束を活用して、フォーメーション維持のような分散マルチエージェント制御問題をどのように解けるか？
• RQ4 局所的知識と有界なサブ勾配の下で、凸関数の平均最小化に対する収束速度はどのように保証できるか？
• RQ5 局所関数の知識と共有の上界 $U$ のみで、分散最適化の誤差が $O(L \sqrt{n/T})$ と有界に保てると考えられるか？

主な発見

• 提案された平均一致プロトコルは、任意の固定された無向グラフ上で $O(n)$ ステップの時間で収束を達成し、接続性を除きグラフ構造に依存しない。
• プロトコルは、ノードがすべて $n$ の定数倍の上界 $U$ を知っていることのみを要件としており、最小限のグローバル知識で完全に分散化可能である。
• マルチエージェント制御の文脈では、フォーメーション維持やリーダーフォローアップタスクにおいて線形時間収束を実現し、スケーラビリティを維持する。
• 分散最適化において、$T$ イタレーション後の誤差は $O(L \sqrt{n/T})$ で有界であり、$L$ は局所関数のサブ勾配の均一な有界値である。
• 本手法により、すべてのノードが初期値の平均に漸近的に到達し、収束速度はグラフのスペクトルギャップに依存せず、$n$ に比例する。