[論文レビュー] Convergence Speed in Distributed Consensus and Control

Alex Olshevsky, John N. Tsitsiklis|arXiv (Cornell University)|Dec 22, 2006

Distributed Control Multi-Agent Systems参考文献 16被引用数 10

ひとこと要約

この論文は分散コンSENSUSおよび平均化アルゴリズムにおける収束速度を分析し、時変動トポロジーに対して多項式時間の平均化アルゴリズムを提案する。線形かつ時不変な手法の最悪ケース下界をΩ(n²)として確立し、スパニングツリーに基づくアルゴリズムがこの下界にほぼ一致することを示す。また、ランダムな動的グラフにおいて部分線形収束を達成する非線形負荷均衡化手法も提案する。

ABSTRACT

We study the convergence speed of distributed iterative algorithms for the consensus and averaging problems, with emphasis on the latter. We first consider the case of a fixed communication topology. We show that a simple adaptation of a consensus algorithm leads to an averaging algorithm. We prove lower bounds on the worst-case convergence time for various classes of linear, time-invariant, distributed consensus methods, and provide an algorithm that essentially matches those lower bounds. We then consider the case of a time-varying topology, and provide a polynomial-time averaging algorithm.

研究の動機と目的

• 分散平均化アルゴリズムの最悪ケース収束時間を、エージェント数nの関数として特徴づけること。
• 線形かつ時不変な分散コンセンサス手法における収束時間の根本的下界を確立すること。
• 収束速度の観点から、これらの下界にほぼ一致するアルゴリズムを設計すること。
• 特にランダムな動的グラフにおいて、時変動ネットワークトポロジー下での平均化アルゴリズムの性能を調査すること。
• 分散平均化における線形性、数値的安定性、収束速度の間のトレードオフを調査すること。

提案手法

• 2つの並列実行された合意形成アルゴリズムを用いて平均化アルゴリズムを構築し、初期値の正確な平均に収束することを保証する。
• 収束速度の変分的特徴づけを用いて、固定トポロジーのアルゴリズムにおける最悪ケース収束時間を分析する。
• [23]の結果を応用して、特定の平均化手法の最悪ケース収束時間がΘ(n³)であることを示す。
• 等距離ノード合意ルールを用いたスパニングツリーに基づくアルゴリズムを導入し、安定性制約下でΩ(n²)の下界に一致する収束時間を達成する。
• 時変動トポロジーに対して非線形負荷均衡化アルゴリズムを提案し、各ノードが隣接ノードと値を交換する方式を採用することで、平均値への収束を保証する。
• 各イテレーションの値交換フェーズ中にトポロジーが固定されたまま保たれることを要件とし、正しさと収束保証を維持する。

実験結果

リサーチクエスチョン

• RQ1 線形かつ時不変で固定トポロジーを想定する分散平均化アルゴリズムの根本的最悪ケース収束時間下界は何か？
• RQ2 収束速度の観点から、この下界にほぼ一致する分散平均化アルゴリズムを構築可能か？
• RQ3 時変動トポロジー下で、特にランダムグラフモデルにおいて、コンセンサスアルゴリズムの収束挙動はどのように変化するか？
• RQ4 動的トポロジー下で、ノード1つあたりのメモリを著しく増加させることなく、多項式時間収束を達成する分散平均化アルゴリズムを設計可能か？
• RQ5 分散平均化において、線形性、数値的安定性、収束速度の間のトレードオフは何か？

主な発見

• 固定トポロジー下では、線形かつ時不変な平均化アルゴリズムのクラスにおける最悪ケース収束時間はΩ(n²)で下界が保証され、この下界はほぼタイトである。
• 等距離ノード合意ルールを用いたスパニングツリーに基づく平均化アルゴリズムは、Ω(n²)の下界に一致する収束時間を達成し、安定性制約下でほぼ最適である。
• 2つの並列合意形成アルゴリズムを用いた手法の収束時間はΘ(n³)であり、最適な下界と比較して顕著な性能差が生じている。
• 時変動Erdös-Rényiおよび幾何的ランダムグラフにおいて、提案された負荷均衡化アルゴリズムは部分線形収束を達成し、ε-精度に到達するには部分線形のイテレーション回数で十分である。
• 非対称な時変動トポロジー下では、合意アルゴリズムが最悪ケースで指数的時間にまで及ぶ収束時間を示すことがあり、動的環境下での不安定性が顕著に現れる。
• 時変動トポロジーに対して非線形かつ多項式時間の平均化アルゴリズムを提案し、各値交換フェーズ中にトポロジーが固定されたまま保たれるという仮定のもとで正しさを維持する。