[论文解读] Asynchronous Decentralized Optimization in Directed Networks

Jiaqi Zhang, Keyou You|arXiv (Cornell University)|Jan 24, 2019

Distributed Control Multi-Agent Systems参考文献 58被引用 16

一句话总结

本文提出APPG，一种用于有向网络的异步去中心化优化算法，使每个节点能够独立且异步地更新，无需协调。在强凸性和Lipschitz梯度条件下，APPG以速率$O(\lambda^k)$实现线性收敛，其中$\lambda \in (0,1)$，并在逻辑回归任务中表现出优越性能，具备线性加速特性与高效的系统实现。

ABSTRACT

A popular asynchronous protocol for decentralized optimization is randomized gossip where a pair of neighbors concurrently update via pairwise averaging. In practice, this creates deadlocks and is vulnerable to information delays. It can also be problematic if a node is unable to response or has only access to its private-preserved local dataset. To address these issues simultaneously, this paper proposes an asynchronous decentralized algorithm, i.e. APPG, with {\em directed} communication where each node updates {\em asynchronously} and independently of any other node. If local functions are strongly-convex with Lipschitz-continuous gradients, each node of APPG converges to the same optimal solution at a rate of $O(\lambda^k)$, where $\lambda\in(0,1)$ and the virtual counter $k$ increases by 1 no matter on which node updates. The superior performance of APPG is validated on a logistic regression problem against state-of-the-art methods in terms of linear speedup and system implementations.

研究动机与目标

• 解决现有异步gossip协议的局限性，例如死锁问题以及在去中心化优化中对通信延迟的敏感性。
• 实现在去中心化网络中的完全异步更新，其中节点独立运行，无需依赖邻居的协调或响应。
• 确保即使节点拥有私有本地数据集或处于非响应状态，也能收敛至相同的最优解。
• 设计一种方法，确保在有向通信拓扑下仍保持收敛性保证，此类拓扑在许多实际系统中更具现实意义。
• 实现速率$O(\lambda^k)$的线性收敛，其中虚拟计数器$k$在每次更新时递增，无论由哪个节点执行。

提出的方法

• 提出APPG，一种异步去中心化算法，每个节点基于其有向网络中入边邻居的信息，独立且异步地更新其本地估计值。
• 使用一个虚拟计数器$k$，在每次本地更新时递增1，从而实现对异步更新的统一收敛性分析。
• 利用有向通信图，其中每个节点仅从其入邻居接收信息，从而支持更灵活且更符合现实的网络拓扑结构。
• 应用基于一致性更新规则，确保所有节点即使在异步且独立更新的情况下，也能收敛至相同的最优解。
• 引入李雅普诺夫函数分析，证明在强凸性和Lipschitz梯度假设下实现线性收敛。
• 确保收敛性不依赖于更新时机或协调机制，仅依赖于虚拟计数器$k$来追踪进度。

实验结果

研究问题

• RQ1 能否在无需节点间协调的情况下，实现一种异步去中心化优化算法，在有向网络中实现线性收敛？
• RQ2 当节点处于非响应状态或拥有私有本地数据集时，该算法性能如何？
• RQ3 在强凸性和Lipschitz梯度条件下，异步有向设置下的收敛速率可保证为多少？
• RQ4 与现有方法相比，该算法能否在系统性能上实现线性加速？
• RQ5 虚拟计数器$k$如何在无同步更新的情况下实现收敛性分析？

主要发现

• APPG以速率$O(\lambda^k)$实现线性收敛，其中$\lambda \in (0,1)$，$k$为每次本地更新时递增的虚拟计数器。
• 该算法在有向网络中实现异步且独立的更新时，所有节点仍能收敛至相同的最优解。
• APPG对非响应节点具有鲁棒性，并支持私有本地数据集，因为节点无需依赖其他节点的协调或响应。
• 与最先进方法相比，该方法在逻辑回归任务中表现出系统性能的线性加速。
• 即使存在通信延迟，该方法在强凸性和Lipschitz连续梯度条件下仍保持收敛保证。
• 实验评估证实，该算法在真实世界去中心化优化基准测试中，收敛速度与系统效率方面均表现优越。