[论文解读] Decentralized Consensus Optimization with Asynchrony and Delays

Tianyu Wu, Kun Yuan+3 more|arXiv (Cornell University)|Dec 1, 2016

Distributed Control Multi-Agent Systems参考文献 41被引用 9

一句话总结

该论文提出了一种异步、去中心化的原始-对偶算法，用于一致性优化，在存在有界和无界延迟的情况下，使用固定步长和每条边的对偶变量，仍能收敛到精确解。该算法使各 agent 能够独立计算和通信，利用延迟的邻居信息，无需全局同步，同时在随机 agent 激活和有界延迟下保持收敛保证。

ABSTRACT

We propose an asynchronous, decentralized algorithm for consensus optimization. The algorithm runs over a network in which the agents communicate with their neighbors and perform local computation. In the proposed algorithm, each agent can compute and communicate independently at different times, for different durations, with the information it has even if the latest information from its neighbors is not yet available. Such an asynchronous algorithm reduces the time that agents would otherwise waste idle because of communication delays or because their neighbors are slower. It also eliminates the need for a global clock for synchronization. Mathematically, the algorithm involves both primal and dual variables, uses fixed step-size parameters, and provably converges to the exact solution under a bounded delay assumption and a random agent assumption. When running synchronously, the algorithm performs just as well as existing competitive synchronous algorithms such as PG-EXTRA, which diverges without synchronization. Numerical experiments confirm the theoretical findings and illustrate the performance of the proposed algorithm.

研究动机与目标

• 开发一种去中心化优化算法，实现异步运行，无需全局同步或等待最慢的 agent。
• 确保在通信和计算延迟有界和无界的情况下，收敛到精确解。
• 通过引入基于边的对偶变量，将 PG-EXTRA 算法扩展到异步设置，以增强对延迟信息的鲁棒性。
• 实现在大规模异构网络中实用部署，其中同步成本过高或不可行。
• 在凸和非凸问题（包括矩阵补全和几何中位数计算）上验证算法性能。

提出的方法

• 该算法采用原始-对偶公式，为每条网络边分配对偶变量，以处理延迟的邻居信息。
• 每个 agent 基于随机激活调度，独立地使用可能过时的邻居数据更新其本地变量和对偶变量。
• 更新规则结合本地计算与加权组合的延迟邻居变量和对偶变量，使用固定步长。
• 该方法引入松弛参数以稳定收敛，并在随机 agent 假设下确保收敛。
• 该算法被推导为 PG-EXTRA 的异步扩展，通过显式定义边的对偶变量，以保持精确收敛。
• 还提出并评估了一种无对偶变量的变体，显示出收敛速度与鲁棒性之间的权衡。

实验结果

研究问题

• RQ1 当 agent 异步运行且延迟任意时，去中心化优化算法能否收敛到精确解？
• RQ2 与现有同步算法相比，引入基于边的对偶变量如何提升异步设置下的收敛鲁棒性？
• RQ3 在具有异构处理和通信延迟的大规模去中心化网络中，消除全局同步能带来哪些性能提升？
• RQ4 在收敛速度和精度方面，该异步原始-对偶算法与异步 ADMM 和同步 PG-EXTRA 相比如何？
• RQ5 在无界延迟下，固定步长和松弛参数对收敛稳定性有何影响？

主要发现

• 在随机 agent 激活假设下，所提出的异步算法在有界和无界延迟下均以概率 1 收敛到精确解。
• 当同步运行时，该算法性能与 PG-EXTRA（一种性能优异的同步算法）相当，并在同步失败时避免发散。
• 在 20 个节点的网络中，该异步算法在相同时间段内完成的计算和通信轮次是同步版本的 29 倍。
• 数值结果表明，该算法在几何中位数问题上优于异步 ADMM，在相同参数设置下收敛更快。
• 该算法在使用固定步长时仍保持快速收敛，无需递减步长或全局协调。
• 基于边的对偶变量的使用，使算法即使在信息延迟下也能实现精确收敛，而 PG-EXTRA 在异步设置下会发散。