[论文解读] Compressed Gradient Tracking for Decentralized Optimization with Linear Convergence.

Zhuorui Li, Yiwei Liao+2 more|arXiv (Cornell University)|Mar 25, 2021

Distributed Control Multi-Agent Systems参考文献 43被引用 5

一句话总结

本文提出C-GT，一种结合梯度追踪与通用通信压缩的压缩梯度追踪算法，用于去中心化优化，在强凸且光滑函数下实现线性收敛。此外，通过引入误差反馈机制，提出EF-C-GT以提升有偏压缩器的效率，理论与数值结果均表明其在通信效率和收敛速度方面具有优势。

ABSTRACT

Communication compression techniques are of growing interests for solving the decentralized optimization problem under limited communication, where the global objective is to minimize the average of local cost functions over a multi-agent network using only local computation and peer-to-peer communication. In this paper, we first propose a novel compressed gradient tracking algorithm (C-GT) that combines gradient tracking technique with communication compression. In particular, C-GT is compatible with a general class of compression operators that unifies both unbiased and biased compressors. We show that C-GT inherits the advantages of gradient tracking-based algorithms and achieves linear convergence rate for strongly convex and smooth objective functions. In the second part of this paper, we propose an error feedback based compressed gradient tracking algorithm (EF-C-GT) to further improve the algorithm efficiency for biased compression operators. Numerical examples complement the theoretical findings and demonstrate the efficiency and flexibility of the proposed algorithms.

研究动机与目标

• 通过将通信压缩与梯度追踪相结合，解决去中心化优化中通信带宽受限的挑战。
• 构建一个兼容无偏与有偏压缩算子的统一框架，以增强算法灵活性。
• 在对等通信约束下，实现对强凸且光滑目标函数的线性收敛。
• 通过在所提出的EF-C-GT算法中引入误差反馈机制，提升有偏压缩器的效率。

提出的方法

• 提出C-GT，一种新颖的压缩梯度追踪算法，将梯度追踪与一类通用压缩算子相结合。
• 利用梯度追踪机制，仅通过本地信息与对等通信估计全局梯度。
• 设计算法以兼容无偏与有偏压缩算子，提升其适用范围。
• 通过引入误差反馈机制，提出EF-C-GT，以校正压缩算子引入的偏差，提升收敛稳定性。
• 通过确保压缩算子满足特定有界相对误差条件，维持线性收敛速率。
• 仅使用本地计算与对等通信，避免集中式协调或参数服务器。

实验结果

研究问题

• RQ1 通信压缩能否与梯度追踪有效结合，以在去中心化优化中保持线性收敛？
• RQ2 所提出的C-GT算法在无偏与有偏压缩算子下表现如何？
• RQ3 在去中心化设置中，使用有偏压缩器时，误差反馈对收敛性能有何影响？
• RQ4 所提出的算法是否能相比现有方法实现更快的收敛速度与更低的通信开销？

主要发现

• C-GT在一般压缩算子下，对强凸且光滑的目标函数实现了线性收敛。
• 只要压缩算子满足有界相对误差条件，即使使用有偏压缩算子，算法仍能保持收敛保证。
• EF-C-GT通过误差反馈机制减少累积误差，显著提升了有偏压缩器的收敛效率。
• 数值实验验证了理论结果，表明收敛速度更快且通信开销更低。
• 所提算法在多种压缩类型与网络拓扑下均表现出良好的灵活性与鲁棒性。
• 梯度追踪与压缩的结合，使得在通信受限条件下实现高效去中心化优化成为可能。