[論文レビュー] Asynchronous Adaptation and Learning over Networks - Part II: Performance Analysis

Xiaochuan Zhao, Ali H. Sayed|arXiv (Cornell University)|Dec 19, 2013

Distributed Control Multi-Agent Systems参考文献 17被引用数 4

ひとこと要約

本稿は、非同期な適応的ネットワークの平均二乗誤差性能を分析し、収束速度および定常状態における平均二乗偏差の解析的表現を導出する。ランダムなトポロジー、リンク障害、非同期更新があるにもかかわらず、エージェントは最適解に対して $O(\nu)$ の精度を達成し、互いに $O(\nu^{1+\gamma_{o}^\prime})$ の一致を達成する。ここで $\nu$ はステップサイズパラメータであり、$\gamma_{o}^\prime > 0$ である。結果は、現実的な非同期条件下でも同期ネットワークと同等の頑健な性能を示している。

ABSTRACT

In Part I \cite{Zhao13TSPasync1}, we introduced a fairly general model for asynchronous events over adaptive networks including random topologies, random link failures, random data arrival times, and agents turning on and off randomly. We performed a stability analysis and established the notable fact that the network is still able to converge in the mean-square-error sense to the desired solution. Once stable behavior is guaranteed, it becomes important to evaluate how fast the iterates converge and how close they get to the optimal solution. This is a demanding task due to the various asynchronous events and due to the fact that agents influence each other. In this Part II, we carry out a detailed analysis of the mean-square-error performance of asynchronous strategies for solving distributed optimization and adaptation problems over networks. We derive analytical expressions for the mean-square convergence rate and the steady-state mean-square-deviation. The expressions reveal how the various parameters of the asynchronous behavior influence network performance. In the process, we establish the interesting conclusion that even under the influence of asynchronous events, all agents in the adaptive network can still reach an $O(ν^{1 + γ_o'})$ near-agreement with some $γ_o' > 0$ while approaching the desired solution within $O(ν)$ accuracy, where $ν$ is proportional to the small step-size parameter for adaptation.

研究の動機と目的

• ランダムなトポロジー、リンク障害、非同期更新を伴うネットワーク上での非同期分散適応および学習の平均二乗誤差性能を分析すること。
• 非同期イベントが同期ネットワークと比較して収束速度および定常状態誤差に与える影響を定量化すること。
• 非同期ダイナミクス下でもエージェントが近い一致に達し、最適解に近づけるかどうかを特定すること。
• 一般非同期モデル下での平均二乗収束速度および定常状態平均二乗偏差の解析的表現を導出すること。

提案手法

• ランダムなステップサイズ、ランダムなリンク活性化、動的トポロジー、ランダムな近隣選択を許容する一般非同期モデルを用いる。
• 時間変動する結合重みと非同期勾配更新を伴う拡散適応戦略を適用する。
• ネットワーク全体の誤差伝播を捉えるために、クロネッカー積およびブロック・クロネッカー積を用いた再帰的誤差ダイナミクスモデルを導出する。
• 安定性および収束行動を分析するために、リャプノフ解析および行列分解技術を用いる。
• 行列逆行列の補題およびスペクトル解析を用いて、MSDおよび収束速度の閉形式表現を導出する。
• 誤差共分散伝播における対称性および半正定値性を保持するため、複素ヘッシアン型の行列構造を導入する。

実験結果

リサーチクエスチョン

• RQ1 ランダムな障害やダイナミクス下で、非同期適応的ネットワークの収束速度は同期ネットワークと比べてどのように異なるか？
• RQ2 非同期ネットワークにおけるエージェントは、ランダムな通信および適応イベントがあっても、定常状態で一定の一致を達成できるか？
• RQ3 非同期行動が存在する中で、個々のエージェントの反復値は最適解および互いにどの程度近づくか？
• RQ4 非同期分散ネットワークにおける平均二乗偏差および収束速度を支配する解析的表現は何か？
• RQ5 非同期イベントによって性能がどの程度劣化し、ステップサイズパラメータ $\nu$ の関数として境界づけられるか？

主な発見

• 各エージェントの定常状態平均二乗偏差（MSD）は有界であり、$O(\nu)$ のスケーリングを示し、最適解に対して $O(\nu)$ の精度で収束することを示している。
• ある $\gamma_{o}^\prime > 0$ に対して、エージェント同士は $O(\nu^{1+\gamma_{o}^\prime})$ の一致を達成し、非同期性があってもほぼ一致する状態を示している。
• 収束速度は解析的に特徴付けられ、ステップサイズおよびリンク障害の統計的モーメントに依存することが示された。
• 誤差共分散行列は、クロネッカー積およびブロック・クロネッカー積を含む線形再帰に従って変化し、正確な性能分析を可能にする。
• MSDにおける支配的項は、$\frac{1}{2} \mathrm{Tr}(H^{-1}R)$ に比例し、ここで $H$ および $R$ はネットワークトポロジーおよび統計から導かれるシステム行列である。
• 解析により、非同期ネットワークが、顕著なランダム的混乱があっても、同期ネットワークと同等の性能を維持することが確認された。