[论文解读] Innovation Compression for Communication-efficient Distributed Optimization with Linear Convergence

Jiaqi Zhang, Keyou You+1 more|arXiv (Cornell University)|May 14, 2021

Distributed Control Multi-Agent Systems参考文献 37被引用 5

一句话总结

该论文提出了COLD和Dyna-COLD两种通信高效的分布式优化算法，通过压缩增量向量（决策变量与其估计值之间的差值）实现线性收敛。通过利用$δ$-压缩压缩器和一种新颖的动态缩放机制，这些算法在使用如1比特量化器等有偏压缩器时，仍能匹配无压缩方法的收敛速率，同时支持低通信协议。

ABSTRACT

Information compression is essential to reduce communication cost in distributed optimization over peer-to-peer networks. This paper proposes a communication-efficient linearly convergent distributed (COLD) algorithm to solve strongly convex optimization problems. By compressing innovation vectors, which are the differences between decision vectors and their estimates, COLD is able to achieve linear convergence for a class of $δ$-contracted compressors. We explicitly quantify how the compression affects the convergence rate and show that COLD matches the same rate of its uncompressed version. To accommodate a wider class of compressors that includes the binary quantizer, we further design a novel dynamical scaling mechanism and obtain the linearly convergent Dyna-COLD. Importantly, our results strictly improve existing results for the quantized consensus problem. Numerical experiments demonstrate the advantages of both algorithms under different compressors.

研究动机与目标

• 通过在无损收敛速度的前提下实现高效压缩，解决对等网络中分布式优化的高通信成本挑战。
• 克服先前方法仅适用于特定压缩器或要求无偏、随机压缩算子的局限性。
• 对无偏和有偏的$δ$-压缩压缩器（包括1比特二值量化器等确定性量化器）均实现线性收敛。
• 设计一种动态缩放机制，将收敛保证扩展至更广泛的压缩器类别，提升鲁棒性与通信效率。
• 强化量化一致性问题的理论边界，改进文献中已有的收敛速率。

提出的方法

• 提出COLD，一种通过压缩增量向量（决策变量与其估计值之间的差值）以减少通信开销的分布式算法。
• 使用$δ$-压缩压缩器（包括无偏与有偏类型），其压缩误差受$δ \|\mathbf{x}\|^{2}$有界，确保失真可控。
• 在Dyna-COLD中引入一种动态缩放机制，自适应调整缩放因子，以在有偏压缩器下维持收敛性。
• 利用李雅普诺夫函数分析收敛性，并推导出依赖于谱隙$\rho$和压缩参数$\delta$的线性收敛速率。
• 证明当$\delta = 0$时，COLD的收敛速率与无压缩的NIDS方法一致，验证了其效率。
• 在Dyna-COLD中设计步长规则$s^k = 3\|X^1\|_{\text{max}} \cdot 0.99^k$，确保无需微调即可实现稳定与收敛。

(a) C1

实验结果

研究问题

• RQ1 在包括有偏压缩器在内的通用压缩器类别下，是否可利用增量压缩实现分布式优化中的线性收敛？
• RQ2 压缩如何影响收敛速率？能否保持与无压缩基线方法相当的收敛速率？
• RQ3 动态缩放机制是否可将线性收敛扩展至非无偏或非随机的压缩器？
• RQ4 与现有量化一致性算法相比，所提方法在收敛速度与通信成本方面是否表现更优？
• RQ5 与CHOCO-GOSSIP等先前工作相比，能否改进量化一致性问题的理论收敛速率？

主要发现

• COLD对无偏与有偏的$δ$-压缩压缩器均实现线性收敛，收敛速率为$\mathcal{O}\big{(}\max\big{\{}\frac{L}{\mu},\frac{1}{(1-\delta)^2\rho}\big{\}}\log\frac{1}{\epsilon}\big{)}$。
• 当$\delta = 0$时，COLD的收敛速率与无压缩的NIDS算法一致，证实理想情况下压缩不会降低性能。
• Dyna-COLD在更广泛的压缩器类别下实现线性收敛，包括先前无偏随机假设所排除的1比特二值量化器。
• 数值实验表明，使用1比特量化器的Dyna-COLD通信成本最低，且在迭代次数上与NIDS性能相当。
• 对于一致性问题，收敛速率从CHOCO-GOSSIP的$\mathcal{O}(\frac{1}{(1-\delta)\rho^2}\log\frac{1}{\epsilon})$提升至$\mathcal{O}(\frac{1}{(1-\delta)\rho}\log\frac{1}{\epsilon})$，达到最优已知速率。
• Dyna-COLD对缩放参数$s^k$的选择具有鲁棒性，在无需微调的情况下仍能保持快速收敛。

(b) C2