[论文解读] Push-sum on random graphs

Pouya Rezaeinia, Bahman Gharesifard+2 more|arXiv (Cornell University)|Aug 2, 2017

Distributed Control Multi-Agent Systems参考文献 31被引用 26

一句话总结

该论文在时间变随机有向图上建立了推-求和算法的几乎必然收敛性，其条件为有向无限流性质及辅助状态的统一下界。此外，论文推导出由时变B-不可约概率矩阵生成的序列的指数收敛速率，将推-求和收敛性扩展至具有量化性能边界的非平稳随机网络。

ABSTRACT

In this paper, we study the problem of achieving average consensus over a random time-varying sequence of directed graphs by extending the class of so-called push-sum algorithms to such random scenarios. Provided that an ergodicity notion, which we term the directed infinite flow property, holds and the auxiliary states of agents are uniformly bounded away from zero infinitely often, we prove the almost sure convergence of the evolutions of this class of algorithms to the average of initial states. Moreover, for a random sequence of graphs generated using a time-varying B-irreducible probability matrix, we establish convergence rates for the proposed push-sum algorithm.

研究动机与目标

• 将推-求和算法扩展至时变随机有向图，其中通信拓扑为随机且非平稳的。
• 在一种新颖的遍历性条件下——'有向无限流性质'——建立推-求和动态几乎必然收敛到初始状态平均值的结论。
• 证明当随机矩阵序列为时变B-不可约时，辅助状态变量几乎必然无限次地远离零点保持统一下界。
• 为时变列随机矩阵序列上的推-求和算法推导出显式、非渐近的收敛速率。
• 将先前关于确定性和平稳随机图的结果推广至更广泛的非平稳随机网络模型，并提供量化性能保证。

提出的方法

• 提出一种推-求和算法，其中每个代理维护一个状态变量和一个权重变量，通过在时变随机有向图上进行局部平均化来更新。
• 引入'有向无限流性质'作为推-求和几乎必然收敛到初始平均值的充要条件。
• 采用长度为B的分块结构分析方法，以解耦动力学并应用集中不等式。
• 应用Hoeffding不等式，以边界化块内经验转移矩阵与其期望之间的偏差。
• 采用矩阵积分析与对数矩界，以控制逆权重变量的增长。
• 通过有界期望对数共识误差并利用矩阵积偏差的指数尾部界，推导出收敛速率。

实验结果

研究问题

• RQ1 在何种随机网络条件下，推-求和算法几乎必然收敛到初始状态的平均值？
• RQ2 能否在非平稳、时变的随机有向图上保证推-求和的收敛性？
• RQ3 当底层随机矩阵为时变B-不可约时，推-求和算法的收敛速率是多少？
• RQ4 辅助状态（权重）随时间如何演化？在何种条件下它们保持远离零点的统一下界？
• RQ5 能否为非平稳随机图上的推-求和算法量化收敛速率，超越平稳情况？

主要发现

• 若满足有向无限流性质且辅助状态几乎必然无限次地远离零点保持统一下界，则推-求和算法几乎必然收敛到初始状态的平均值。
• 当随机矩阵序列由时变B-不可约概率矩阵生成时，辅助状态的统一下界条件几乎必然成立。
• 对于此类B-不可约序列，期望共识误差以与p²/(4B)成比例的速率呈指数衰减，其中p为每次试验的成功概率，B为分块大小。
• 收敛速率通过有界期望对数共识误差的边界确定，该边界以高概率随O(t/B)衰减。
• 在给定假设下，误差以O(exp(−p²t/(4B)))的速率衰减，显式常数由集中不等式导出。
• 结果将先前关于确定性和平稳随机图的工作进行了推广，首次为非平稳、随机有向网络上的推-求和算法提供了收敛速率分析。