[论文解读] Optimization over time-varying directed graphs with row and column-stochastic matrices

Fakhteh Saadatniaki, Ran Xin+1 more|arXiv (Cornell University)|Oct 17, 2018

Distributed Control Multi-Agent Systems参考文献 52被引用 11

一句话总结

该论文提出 TV-$\mathcal{AB}$，一种用于时变有向图的分布式优化算法，通过同时使用行随机和列随机权重矩阵，在无需估计特征向量的情况下实现线性收敛。该方法在有界连通性条件下确保对最优解的一致性，并通过稳定性分析和矩阵扰动论证，实现对光滑强凸目标函数的线性收敛。

ABSTRACT

In this paper, we provide a distributed optimization algorithm, termed as TV-$\mathcal{AB}$, that minimizes a sum of convex functions over time-varying, random directed graphs. Contrary to the existing work, the algorithm we propose does not require eigenvector estimation to estimate the (non-$\mathbf{1}$) Perron eigenvector of a stochastic matrix. Instead, the proposed approach relies on a novel information mixing approach that exploits both row- and column-stochastic weights to achieve agreement towards the optimal solution when the underlying graph is directed. We show that TV-$\mathcal{AB}$ converges linearly to the optimal solution when the global objective is smooth and strongly-convex, and the underlying time-varying graphs exhibit bounded connectivity, i.e., a union of every $C$ consecutive graphs is strongly-connected. We derive the convergence results based on the stability analysis of a linear system of inequalities along with a matrix perturbation argument. Simulations confirm the findings in this paper.

研究动机与目标

• 开发一种在时变有向通信图上运行的分布式优化算法，无需估计非均匀Perron特征向量。
• 在具有动态有向拓扑的分布式环境中，实现对光滑强凸目标函数的线性收敛到最优解。
• 通过基于双重随机性的新颖信息混合策略，消除对递减步长的依赖。
• 在有界连通性条件下建立收敛保证，即每 $C$ 个连续图的并集是强连通的。
• 利用线性系统稳定性与矩阵扰动分析，为时变有向网络提供理论基础。

提出的方法

• 该算法使用两个时变权重矩阵：一个行随机矩阵和一个列随机矩阵，按顺序应用以实现在有向图中各代理间的一致性。
• 它引入了一种新颖的信息混合机制，结合行随机与列随机权重，以平衡信息流并实现对最优解的一致性。
• 该方法采用恒定步长，避免了先前工作中使用递减步长导致的次优收敛。
• 收敛性分析基于误差动态的线性不等式系统与矩阵扰动理论。
• 算法在长度为 $\overline{C}$ 的滑动窗口内进行分析，其中每个窗口内图的并集是强连通的。
• 通过分析系统矩阵 $M^0$ 的谱性质，建立理论稳定性，表明其具有一个值为 1 的单特征值及其对应的单重特征空间。

实验结果

研究问题

• RQ1 能否在不估计非均匀Perron特征向量的情况下，实现在时变有向图上的分布式优化线性收敛？
• RQ2 如何利用双重随机性（行随机与列随机权重）在时变拓扑的有向图中实现一致性？
• RQ3 图序列需满足何种条件，才能在动态且有向的通信下确保算法的线性收敛？
• RQ4 能否在不依赖递减步长或高复杂度子问题求解的情况下，将收敛速率提升至超越次线性？
• RQ5 有界连通性（每 $C$ 个连续图的并集为强连通）在确保收敛性方面起什么作用？

主要发现

• TV-$\mathcal{AB}$ 算法在具有有界连通性的时变有向图上，对光滑强凸目标函数实现了到最优解的线性收敛。
• 收敛速率为线性，误差呈几何级数减少，即使底层图是有向且时变的。
• 该算法避免了对随机矩阵特征向量的估计，这是先前推-和（push-sum）与盈余一致性（surplus consensus）方法中的一个关键限制。
• 理论分析确认系统矩阵 $M^0$ 的谱半径为 1，且具有一个值为 1 的单特征值，从而确保收敛至一致性子空间。
• 通过矩阵扰动与稳定性分析，界定了误差动态，表明加权误差以几何速率衰减。
• 仿真验证了理论结果，展示了在时变有向通信模式下快速收敛与鲁棒性。