[论文解读] Nested Distributed Gradient Methods with Adaptive Quantized Communication

Albert S. Berahas, Charikleia Iakovidou+1 more|arXiv (Cornell University)|Mar 18, 2019

Distributed Control Multi-Agent Systems参考文献 42被引用 7

一句话总结

该论文提出 NEAR-DGD+Q，一种具有自适应量化通信的嵌套分布式梯度方法，用于在资源受限网络中最小化局部凸函数之和。通过动态提升量化精度和一致性步数，该方法实现了对精确解的 R-线性收敛，平衡量化误差与一致性误差，从而在不牺牲精度的前提下降低通信成本。

ABSTRACT

In this paper, we consider minimizing a sum of local convex objective functions in a distributed setting, where communication can be costly. We propose and analyze a class of nested distributed gradient methods with adaptive quantized communication (NEAR-DGD+Q). We show the effect of performing multiple quantized communication steps on the rate of convergence and on the size of the neighborhood of convergence, and prove R-Linear convergence to the exact solution with increasing number of consensus steps and adaptive quantization. We test the performance of the method, as well as some practical variants, on quadratic functions, and show the effects of multiple quantized communication steps in terms of iterations/gradient evaluations, communication and cost.

研究动机与目标

• 设计一种在通信成本高、带宽有限条件下仍能保持收敛精度的分布式优化算法。
• 分析多次量化一致性步骤对收敛速度和邻域大小的影响。
• 开发一种自适应量化策略，以平衡量化误差与一致性误差。
• 在强凸设置下，使用固定步长实现精确的 R-线性收敛。
• 评估在不同带宽和计算成本下，迭代次数、通信成本与计算成本之间的性能权衡。

提出的方法

• 该方法采用嵌套结构，交替执行梯度步与一致性步，每个代理先执行本地梯度更新，随后与邻居进行量化信息交换。
• 通信采用自适应方案进行量化，随时间推移逐步增加传输的有效数字位数，依据预设调度进行。
• 在基于一致性的分布式问题重 formulation 下进行算法分析，使用对称双随机矩阵 W 以确保各代理间的一致性。
• 收敛性分析证明，当一致性步数增加且量化自适应优化时，该方法可实现对精确解的 R-线性收敛。
• 在不同网络拓扑、量化方案和成本参数下，对二次函数进行测试，以评估通信与计算之间的权衡。
• 采用结合传输数字位数与梯度评估次数的成本模型，按通信与计算的应用特定成本加权。

实验结果

研究问题

• RQ1 在分布式梯度方法中，执行多次量化一致性步骤如何影响收敛速度与邻域大小？
• RQ2 在有限通信带宽下，能否使用自适应量化实现分布式优化中的精确 R-线性收敛？
• RQ3 在量化通信的分布式优化中，通信成本（以传输数字位数计）与计算成本（以梯度评估次数计）之间的权衡是什么？
• RQ4 在收敛速度与精度方面，自适应量化相较于固定精度量化表现如何？
• RQ5 该方法能否通过平衡量化误差与一致性误差，在不降低解质量的前提下减轻通信负载？

主要发现

• 当一致性步数增加且量化自适应优化时，NEAR-DGD+Q 方法可实现对精确解的 R-线性收敛。
• 自适应量化使该方法在传输更少有效数字位数的情况下达到与无量化变体相同的精度，尤其在通信成本较高时优势明显。
• 当 $ c_c = 10^4 $ 时，自适应量化变体在总成本方面优于无量化版本，显示出通信节省效果。
• 当通信成本较低（$ c_c = 10^{-4} $）时，自适应量化带来的收益较小，因为计算成本占主导。
• 在第 $ k $ 次迭代中将一致性步数加倍的变体（NEAR-DGD$^+$(1,1,50)）在显著降低通信负载的同时，性能几乎等同于无量化版本。
• 固定精度量化导致收敛至解的邻域，且邻域大小与传输数字位数成反比。