[論文レビュー] Efficient Information Aggregation Strategies for Distributed Control and Signal Processing

Alexander Olshevsky|arXiv (Cornell University)|Sep 30, 2010

Distributed Control Multi-Agent Systems参考文献 94被引用数 29

ひとこと要約

本稿では、時間変動する接続性を示す大規模ネットワークにおける、通信制限付きで分散型平均化を実現する新規で、証明可能に最適なアルゴリズムを提示する。O(n³ log(nε)) の時間計算量を持つ高速収束プロトコルを導入し、ε-精度に到達する。収束時間に対する根本的な Ω(n³) の下界を確立し、実用的展開を可能にする量子化済みおよび定数ビット通信バージョンを開発することで、分散型システムにおける効率的な分散制御および信号処理を実現する。

ABSTRACT

This thesis is concerned with distributed control and coordination of networks consisting of multiple, potentially mobile, agents. This is motivated mainly by the emergence of large scale networks characterized by the lack of centralized access to information and time-varying connectivity. Control and optimization algorithms deployed in such networks should be completely distributed, relying only on local observations and information, and robust against unexpected changes in topology such as link failures. We will describe protocols to solve certain control and signal processing problems in this setting. We will demonstrate that a key challenge for such systems is the problem of computing averages in a decentralized way. Namely, we will show that a number of distributed control and signal processing problems can be solved straightforwardly if solutions to the averaging problem are available. The rest of the thesis will be concerned with algorithms for the averaging problem and its generalizations. We will (i) derive the fastest known averaging algorithms in a variety of settings and subject to a variety of communication and storage constraints (ii) prove a lower bound identifying a fundamental barrier for averaging algorithms (iii) propose a new model for distributed function computation which reflects the constraints facing many large-scale networks, and nearly characterize the general class of functions which can be computed in this model.

研究の動機と目的

• 時間変動する接続性と中央集権的制御なしを特徴とする大規模で分散型のネットワークにおける、効率的な情報集約の課題に対処する。
• 分散制御および信号処理の応用に適した、高速で強健かつ通信効率の良い平均化アルゴリズムを開発する。
• 動的ネットワークにおける平均化アルゴリズムの収束速度の根本的限界を確立する。
• 量子化および各リンクあたり定数ビットの伝送といった、厳密な通信制約下で動作するプロトコルを設計する。
• 現実的な制約を伴う大規模ネットワークにおける分散関数計算の統一フレームワークを提供する。

提案手法

• 各ノードが局所状態を維持し、各時刻ステップでランダムに選択された隣接ノードとペアワイズ平均化により更新する分散平均化プロトコルを提案する。
• 初期値が [0,1] の範囲にある場合、幾何的収束率 1 − c/n³ を達成する新規なアルゴリズムを導入し、ε-精度に到達するまでの時間が O(n³ log(nε)) であることを保証する。
• 確率的マトリックスのスペクトル的性質を含む、グラフ理論的および行列解析的手法を用いて、時間変動する通信グラフにおける収束を分析する。
• 一般の接続性仮定の下で、任意の分散平均化アルゴリズムの収束時間に対する Ω(n³) の下界を確立する。
• 有限精度の下でも正確性を維持する量子化平均化プロトコルを設計し、誤差境界を量子化レベルに依存させる。
• 各リンクあたり定数ビットのみを用いて最大値の計算や他の関数を計算するための「区間平均化」技術を導入し、効率的な分散関数計算を可能にする。

実験結果

リサーチクエスチョン

• RQ1 任意の接続性を示すが接続されたトポロジーを持つ時間変動ネットワークにおける、分散平均化の最速収束速度は何か？
• RQ2 リンク障害や時間変動する通信パターンに強く、かつ時間変動するトポロジーに適応可能な分散平均化アルゴリズムを設計できるか？
• RQ3 最小限の仮定のもとで、分散平均化アルゴリズムの収束速度に及ぼされる根本的限界は何か？
• RQ4 各通信リンクあたり定数ビットのみを用いて、分散関数計算（特に平均値と最大値の追跡）を実行できるか？
• RQ5 量子化は、分散平均化アルゴリズムの正確性と収束にどのような影響を与えるか？

主な発見

• 提案されたアルゴリズムは、初期値が [0,1] の範囲にある場合、O(n³ log(nε)) 時間で平均値に収束し、幾何的収束率 1 − c/n³ を達成する。
• 一般の接続性仮定の下で、任意の分散平均化アルゴリズムの収束時間に対する根本的下界 Ω(n³) が証明された。
• ネットワークが時間的区間内で接続を維持する限り、時間変動トポロジー、特にリンク障害や遅延に対しても、アルゴリズムは強健である。
• 量子化平均化プロトコルが開発され、誤差が O(1/Q) で抑えられ、Q は量子化レベルを表す。これにより、真の平均値の近傍に収束することが保証される。
• 各リンクあたり定数ビットのみを用いる定数ビット通信プロトコルが提案され、最大値の計算や他の関数の分散計算が可能になった。
• 区間平均化技術により、帯域制限が厳しい環境下でも、最大値や平均値といった関数の効率的かつ正確な分散計算が可能になった。