[论文解读] Accelerating the Convergence Rates of Distributed Subgradient Methods with Adaptive Quantization

Thinh T. Doan, Siva Theja Maguluri+1 more|arXiv (Cornell University)|Oct 30, 2018

Distributed Control Multi-Agent Systems被引用 10

一句话总结

本文提出了一种用于分布式次梯度算法的自适应量化方法，通过根据算法进展动态调整量化级别，消除了量化误差。采用该方法后，对于凸函数和强凸函数，收敛速率与未量化方法一致，仅相差一个依赖于量化位数的因子。

ABSTRACT

We study distributed optimization problems over a network when the communication between the nodes is constrained, and so information that is exchanged between the nodes must be quantized. This imperfect communication poses a fundamental challenge, and this imperfect communication, if not properly accounted for, prevents the convergence of these algorithms. In this paper, our main contribution is to propose a novel quantization method, which we refer to as an adaptive quantization. The main idea of our approach is to quantize the nodes' estimates based on the progress of the algorithm, which helps to eliminate the quantized errors. Under the adaptive quantization, we then derive the bounds on the convergence rates of the proposed method as a function of the bandwidths and the underlying network topology, for both convex and strongly convex objective functions. Our results shows that using the adaptive quantization, the rate of convergence of distributed consensus-based subgradient methods with and without quantization are the same, except for a factor which captures the number of quantization bits. Finally, we provide numerical simulations to compare the convergence properties of the distributed gradient methods with and without quantization for solving the well-known regression problems over networks, for both quadratic and absolute loss functions.

研究动机与目标

• 解决分布式优化中的通信约束挑战，即节点间信息交换受限于带宽。
• 克服标准量化在分布式次梯度方法中导致收敛性能下降的根本问题。
• 设计一种根据算法进展自适应调整的量化策略，以消除持续存在的量化误差。
• 分析在自适应量化下，凸函数和强凸函数目标函数的收敛速率。
• 证明采用自适应量化时的收敛速率与未量化方法一致，仅相差一个依赖于量化位数的因子。

提出的方法

• 提出一种自适应量化方案，根据分布式次梯度算法的当前进展动态调整量化级别。
• 引入一种动态量化规则，通过利用算法收敛过程中次梯度范数减小的特性，随时间减少量化误差。
• 为自适应量化下的分布式次梯度方法建立收敛边界，显式依赖于网络拓扑和带宽（量化位数）。
• 推导在所提量化框架下，凸函数和强凸函数的理论收敛速率。
• 采用基于一致性（consensus-based）的更新规则，每个节点使用来自邻居的量化信息更新其估计值，并迭代调整量化级别。
• 通过在不同量化级别下对回归问题进行数值模拟，验证该方法的有效性，采用二次损失和绝对值损失函数。

实验结果

研究问题

• RQ1 自适应量化能否消除固定量化在分布式次梯度方法中通常引起的收敛性能下降？
• RQ2 采用自适应量化时，分布式次梯度方法的收敛速率与未量化方法相比如何？
• RQ3 收敛速率对量化位数和网络拓扑的依赖关系如何？
• RQ4 自适应量化策略是否对凸函数和强凸函数目标函数均能保持收敛性？
• RQ5 在回归问题中，该方法在不同损失函数（如二次损失和绝对值损失）下的收敛特性有何差异？

主要发现

• 所提出的自适应量化方法实现了与未量化分布式次梯度方法相同的收敛速率，仅相差一个依赖于量化位数的因子。
• 对于凸函数，自适应量化下的收敛速率为 O(1/√t)，在量化位数的对数因子范围内与未量化速率一致。
• 对于强凸函数，自适应量化下的收敛速率为 O(1/t)，同样与未量化速率一致，仅相差一个依赖于位数的因子。
• 收敛边界显式依赖于网络的代数连通度和量化位数，表明了网络拓扑和带宽的影响。
• 数值模拟结果表明，与固定量化方法相比，自适应量化方法在采用二次损失和绝对值损失函数的回归问题中收敛更快且更稳定。
• 该方法有效消除了标准量化分布式算法中通常阻碍收敛的持续性量化误差。