[论文解读] On the Linear Convergence of Distributed Optimization over Directed Graphs

Chenguang Xi, Usman A. Khan|arXiv (Cornell University)|Oct 7, 2015

Distributed Control Multi-Agent Systems参考文献 41被引用 33

一句话总结

该论文提出 DEXTRA，一种用于有向图的分布式优化算法，通过使用类似推送-求和的共识机制并采用固定步长，实现了对强凸目标函数的线性收敛。与以往依赖递减步长、收敛缓慢的方法不同，DEXTRA 确保以线性速率 O(τ^k)（0 < τ < 1）实现精确收敛，且每个代理仅需知道其本地出度信息。

ABSTRACT

This paper develops a fast distributed algorithm, termed \emph{DEXTRA}, to solve the optimization problem when~$n$ agents reach agreement and collaboratively minimize the sum of their local objective functions over the network, where the communication between the agents is described by a~\emph{directed} graph. Existing algorithms solve the problem restricted to directed graphs with convergence rates of $O(\ln k/\sqrt{k})$ for general convex objective functions and $O(\ln k/k)$ when the objective functions are strongly-convex, where~$k$ is the number of iterations. We show that, with the appropriate step-size, DEXTRA converges at a linear rate $O(τ^{k})$ for $0

研究动机与目标

• 为解决在有向图上分布式优化中缺乏快速精确收敛的问题，现有方法依赖递减步长且收敛缓慢。
• 开发一种在有向网络中对强凸目标函数实现线性收敛的分布式算法。
• 通过一种新颖的基于共识的方法，克服有向图中固有的信息交换不平衡问题。
• 实现使用固定步长的精确收敛，避免先前基于梯度的方法所导致的次线性收敛速率。

提出的方法

• DEXTRA 采用类似推送-求和的共识机制，以处理有向图中的非对称通信，确保信息流动平衡。
• 在梯度更新中使用固定步长，实现线性收敛，而不同于以往方法所需递减步长。
• 该算法结合行随机和列随机性质的加权矩阵，以在共识过程中保持平衡。
• 每个代理维护对偶变量和对偶乘子的本地估计，并通过梯度步长与共识迭代的组合进行更新。
• 该方法依赖于涉及 D^k、D^∞ 以及辅助矩阵 M 和 N 的矩阵分解，以建模状态演化和收敛行为。
• 收敛性分析基于基于对偶变量和对偶乘子误差的李雅普诺夫函数，通过矩阵不等式和范数性质推导出界。

实验结果

研究问题

• RQ1 当目标函数为强凸函数时，能否在有向图上实现分布式优化算法的线性收敛？
• RQ2 如何克服有向通信图中的信息不平衡，以确保精确收敛？
• RQ3 何种步长策略可实现线性收敛，而无需依赖递减步长？
• RQ4 能否将现有基于梯度的方法在有向图上的收敛速率从 O(ln k / √k) 提升至 O(τ^k)？
• RQ5 为确保在有向网络中实现线性收敛，加权矩阵需具备何种结构特性？

主要发现

• 当目标函数为强凸函数时，DEXTRA 以 O(τ^k) 的速率实现线性收敛（0 < τ < 1），相比以往方法有显著提升。
• 该算法通过使用固定步长实现精确收敛，避免了因递减步长导致的不精确收敛或缓慢收敛。
• 在相同条件下，强凸函数的收敛速率从 O(ln k / k) 提升至 O(τ^k)，表明其具有指数衰减特性。
• 该方法仅要求每个代理知晓其本地出度，这是实现中最小且实用的假设。
• 仿真结果验证了线性收敛行为，并在多种有向网络拓扑下确认了理论分析的有效性。
• 理论分析通过捕捉对偶变量和对偶乘子误差演化的李雅普诺夫函数建立收敛性，利用矩阵范数和特征值性质推导出紧致界。