[论文解读] Linear convergence in directed optimization with row-stochastic matrices

Chenguang Xi, Van Sy+2 more|arXiv (Cornell University)|Nov 18, 2016

Distributed Control Multi-Agent Systems被引用 2

一句话总结

该论文提出了一种用于有向网络的分布式优化算法，可在不需代理知晓其邻居出度的情况下实现线性收敛。通过利用行随机矩阵，该方法在强凸函数且梯度Lipschitz连续的条件下，达到了目前已知的最佳收敛速率$O(\mu^k)$，优于依赖于出度信息的先前方法。

ABSTRACT

This paper considers a distributed optimization problem over a multi-agent network, in which the objective function is a sum of individual cost functions at the agents. We focus on the case when communication between the agents is described by a \emph{directed} graph. Existing distributed optimization algorithms for directed graphs require at least the knowledge of the neighbors' out-degree at each agent (due to the requirement of column-stochastic matrices). In contrast, our algorithm requires no such knowledge. Moreover, the proposed algorithm achieves the best known rate of convergence for this class of problems, $O(\mu^k)$ for $0<\mu<1$, where $k$ is the number of iterations, given that the objective functions are strongly-convex and have Lipschitz-continuous gradients. Numerical experiments are also provided to illustrate the theoretical findings.

研究动机与目标

• 为解决现有有向图分布式优化算法中要求代理知晓其邻居出度的局限性。
• 开发一种在不依赖列随机矩阵或出度信息的情况下仍能保持线性收敛的方法。
• 在强凸性和梯度Lipschitz连续的标准假设下，实现有向网络中分布式优化的最佳已知收敛速率。
• 通过数值实验验证理论结果，证明该算法的有效性。

提出的方法

• 该算法使用行随机权重矩阵来建模有向网络中的通信，确保在无需出度信息的情况下实现收敛。
• 采用基于一致性更新规则，每个代理通过行随机权重将本地梯度与来自入邻居的信息进行组合。
• 该方法在强凸目标函数且梯度Lipschitz连续的假设下，设计为保持线性收敛。
• 通过李雅普诺夫函数方法分析收敛速率，证明在$0 < \mu < 1$时收敛速率为$O(\mu^k)$。
• 该算法避免使用列随机矩阵，而列随机矩阵通常在先前工作中被用于保持和的守恒性。
• 通过数值实验验证理论收敛速率及在实际场景中的鲁棒性。

实验结果

研究问题

• RQ1 在有向网络中，分布式优化能否在不需代理知晓其邻居出度的情况下实现线性收敛？
• RQ2 在强凸性和Lipschitz梯度假设下，有向网络中分布式优化的最佳可实现收敛速率是什么？
• RQ3 如何有效利用行随机矩阵设计一种不依赖列随机结构的收敛算法？
• RQ4 所提方法在收敛速度和通信需求方面是否优于现有算法？

主要发现

• 所提算法在$0 < \mu < 1$时实现了$O(\mu^k)$的线性收敛速率，与文献中已知的最佳速率一致。
• 该方法无需代理知晓其邻居的出度，克服了先前方法的关键局限性。
• 使用行随机矩阵可在无需列随机假设的情况下实现收敛，简化了实现过程。
• 数值实验验证了理论收敛速率，并展示了该算法在有向网络环境中的有效性。