[论文解读] Quantized Push-sum for Gossip and Decentralized Optimization over Directed Graphs.

Hossein Taheri, Aryan Mokhtari+2 more|arXiv (Cornell University)|Feb 23, 2020

Distributed Control Multi-Agent Systems参考文献 2被引用 7

一句话总结

本文提出了一种针对有向图上去中心化随机学习的量化推送求和算法，通过压缩模型更新来减少通信开销，同时保持与精确通信方法相同的收敛速率。该方法通过将量化与推送求和框架相结合，确保了凸函数和非凸函数损失函数下的收敛性。

ABSTRACT

We consider a decentralized stochastic learning problem where data points are distributed among computing nodes communicating over a directed graph. As the model size gets large, decentralized learning faces a major bottleneck that is the heavy communication load due to each node transmitting large messages (model updates) to its neighbors. To tackle this bottleneck, we propose the quantized decentralized stochastic learning algorithm over directed graphs that is based on the push-sum algorithm in decentralized consensus optimization. More importantly, we prove that our algorithm achieves the same convergence rates of the decentralized stochastic learning algorithm with exact-communication for both convex and non-convex losses. Numerical evaluations corroborate our main theoretical results and illustrate significant speed-up compared to the exact-communication methods.

研究动机与目标

• 解决由于高容量模型更新导致的大规模去中心化随机学习中的通信瓶颈问题。
• 实现在通信为非对称且单向的有向图上的高效学习。
• 在量化条件下仍保持与精确通信方法相当的收敛速率。
• 设计一种可扩展且通信高效的算法，适用于现实世界中的去中心化系统。

提出的方法

• 适配推送求和算法以处理有向图，实现通过单向通信达成共识。
• 引入模型更新的量化以减小消息大小和通信负载。
• 将量化与推送求和框架结合，以保持收敛性特性。
• 通过隐式误差反馈机制校正量化引起的更新过程中的偏差。
• 通过理论分析确保在凸函数和非凸函数损失函数下的收敛性。
• 设计算法以应对非对称网络拓扑结构和带宽受限的环境。

实验结果

研究问题

• RQ1 量化能否在不降低收敛速率的前提下有效集成到基于推送求和的去中心化优化中？
• RQ2 所提出的方法在量化条件下是否对凸函数和非凸函数损失函数均保持收敛性？
• RQ3 在实际应用中，量化推送求和的通信效率与精确通信方法相比如何？
• RQ4 有向图拓扑结构对量化算法的收敛性和稳定性有何影响？

主要发现

• 所提出的量化推送求和算法在凸函数和非凸函数损失函数下均实现了与精确通信方法相同的收敛速率。
• 数值评估结果证实，与精确通信基线相比，该方法显著提升了运行速度，尤其在高维模型下表现更优。
• 即使在激进的量化条件下，该算法仍能保持收敛，表现出对通信压缩的鲁棒性。
• 该方法在有向图上表现有效，而传统共识算法通常在此类图上失效或收敛缓慢。