[论文解读] Asynchronous Adaptation and Learning over Networks - Part II: Performance Analysis

Xiaochuan Zhao, Ali H. Sayed|arXiv (Cornell University)|Dec 19, 2013

Distributed Control Multi-Agent Systems参考文献 17被引用 4

一句话总结

本文分析了异步自适应网络的均方误差性能，推导出收敛速率和稳态均方偏差的解析表达式。结果表明，尽管存在随机拓扑、链路故障和异步更新，各代理仍能以 $O(\nu)$ 的精度逼近最优解，彼此间达成 $O(\nu^{1+\gamma_{o}^\prime})$ 的一致性，其中 $\nu$ 为步长参数，且 $\gamma_{o}^\prime > 0$。结果证实，在实际的异步条件下，其性能与同步网络相当，表现出强健性。

ABSTRACT

In Part I \cite{Zhao13TSPasync1}, we introduced a fairly general model for asynchronous events over adaptive networks including random topologies, random link failures, random data arrival times, and agents turning on and off randomly. We performed a stability analysis and established the notable fact that the network is still able to converge in the mean-square-error sense to the desired solution. Once stable behavior is guaranteed, it becomes important to evaluate how fast the iterates converge and how close they get to the optimal solution. This is a demanding task due to the various asynchronous events and due to the fact that agents influence each other. In this Part II, we carry out a detailed analysis of the mean-square-error performance of asynchronous strategies for solving distributed optimization and adaptation problems over networks. We derive analytical expressions for the mean-square convergence rate and the steady-state mean-square-deviation. The expressions reveal how the various parameters of the asynchronous behavior influence network performance. In the process, we establish the interesting conclusion that even under the influence of asynchronous events, all agents in the adaptive network can still reach an $O(ν^{1 + γ_o'})$ near-agreement with some $γ_o' > 0$ while approaching the desired solution within $O(ν)$ accuracy, where $ν$ is proportional to the small step-size parameter for adaptation.

研究动机与目标

• 分析具有随机拓扑、链路故障和异步更新的网络中，异步分布式自适应与学习的均方误差性能。
• 量化异步事件对收敛速率和稳态误差相对于同步网络的影响。
• 确定在异步动态下，代理是否仍能实现近似一致并逼近最优解。
• 推导在一般异步模型下，均方收敛速率和稳态均方偏差的解析表达式。

提出的方法

• 采用一种通用的异步模型，允许随机步长、随机链路激活、动态拓扑和随机邻居选择。
• 应用具有时变组合权重和异步梯度更新的扩散自适应策略。
• 利用克罗内克积和分块克罗内克积推导递归误差动态模型，以捕捉全网范围内的误差传播。
• 采用李雅普诺夫分析和矩阵分解技术研究稳定性与收敛行为。
• 利用矩阵求逆引理和谱分析推导出 MSD 和收敛速率的闭式表达式。
• 引入一种类海森矩阵结构，以在误差协方差传播中保持对称性和半正定性。

实验结果

研究问题

• RQ1 在存在随机故障和动态变化的条件下，异步自适应网络的收敛速率与同步网络相比如何？
• RQ2 在存在随机通信和自适应事件的情况下，异步网络中的代理是否仍能在稳态下实现一定程度的一致性？
• RQ3 在异步行为存在的情况下，各代理的迭代值与最优解以及彼此之间的接近程度如何？
• RQ4 哪些解析表达式控制着异步分布式网络中的均方偏差和收敛速率？
• RQ5 由于异步事件导致的性能退化程度如何？是否能以步长参数 $\nu$ 的形式进行有界描述？

主要发现

• 每个代理的稳态均方偏差（MSD）有界，且按 $O(\nu)$ 规模缩放，表明其以 $O(\nu)$ 精度收敛至最优解。
• 代理之间实现 $O(\nu^{1+\gamma_{o}^\prime}})$ 的一致性，其中 $\gamma_{o}^\prime > 0$，表明尽管存在异步性，仍能实现近似一致。
• 收敛速率被解析表征，并显示其依赖于步长和链路故障的统计矩。
• 误差协方差矩阵按照包含克罗内克积和分块克罗内克积的线性递推演化，从而实现精确的性能分析。
• MSD 中的主导项与 $\frac{1}{2} \mathrm{Tr}(H^{-1}R)$ 成正比，其中 $H$ 和 $R$ 是由网络拓扑和统计特性导出的系统矩阵。
• 分析结果证实，即使在显著的随机扰动下，异步网络的性能仍与同步网络相当。