[论文解读] Decentralized optimization over noisy, rate-constrained networks: How to agree by talking about how we disagree

Rajarshi Saha, Stefano Rini+2 more|arXiv (Cornell University)|Oct 21, 2020

Distributed Control Multi-Agent Systems参考文献 23被引用 1

一句话总结

本文提出了一种去中心化优化算法 DLMD-DiffEx，即使在存在噪声和速率限制的通信条件下，也能使各节点收敛到最优解。该算法使用代理变量来建模并校正由信道噪声和数据速率限制引起的分歧，确保在这些约束下实现收敛。

ABSTRACT

In decentralized optimization, multiple nodes in a network collaborate to minimize the sum of their local loss functions. The information exchange between nodes required for the task is often limited by network connectivity. We consider a generalization of this setting in which communication is further hindered by (i) a finite data-rate constraint on the signal transmitted by any node, and (ii) an additive noise corruption of the signal received by any node. We develop a novel algorithm for this scenario: Decentralized Lazy Mirror Descent with Differential Exchanges (DLMD-DiffEx), which guarantees convergence of the local estimates to the optimal solution under the given communication constraints. A salient feature of DLMD-DiffEx is the careful design of the evolution of proxy variables which are maintained to account for the disagreement in estimates at the nodes due to channel noise and data-rate constraints. We investigate the performance of DLMD-DiffEx both from a theoretical perspective as well as through numerical evaluations.

研究动机与目标

• 解决在同时存在有限数据速率约束和通信中加性噪声的网络中的去中心化优化问题。
• 开发一种方法，确保在这些严苛通信条件下，本地估计值能收敛到全局最优解。
• 对由于噪声和量化传输导致的节点间分歧进行建模与缓解。
• 在保持实际网络环境可行性的同时，提供收敛性的理论保证。

提出的方法

• 提出一种新型算法——带差分交换的去中心化懒惰镜像下降（DLMD-DiffEx），专为具有噪声和速率约束的通信网络设计。
• 在每个节点使用代理变量，以跟踪并补偿由信道噪声和量化引起的本地估计分歧。
• 通过基于相邻节点间估计差异的差分交换来更新这些代理变量。
• 对本地估计应用懒惰镜像下降更新，结合经校正的代理信息以提升收敛性能。
• 通过在传输前对消息进行量化来纳入数据速率约束，同时保持收敛性保证。
• 通过在通信约束下仔细平衡本地估计和代理变量的更新，确保收敛到最优解。

实验结果

研究问题

• RQ1 如何使去中心化优化在通信中同时具备对加性噪声和有限数据速率约束的鲁棒性？
• RQ2 何种机制能有效建模并校正由于噪声和量化传输导致的节点间分歧？
• RQ3 在存在此类通信损伤的情况下，去中心化算法能否保证收敛到最优解？
• RQ4 代理变量演化中的设计选择如何影响收敛速度和稳定性？

主要发现

• DLMD-DiffEx 在存在噪声和速率限制的通信条件下，保证了本地估计收敛到最优解。
• 使用代理变量能有效建模并校正由信道噪声和数据速率限制引起的分歧。
• 该算法通过基于差分交换动态调整代理变量，在量化和加性噪声下仍能保持收敛。
• 数值评估证实了该算法在带宽有限和存在噪声的实际网络环境中的鲁棒性和有效性。
• 理论分析建立了在一般条件下（包括非独立同分布噪声和有界数据速率约束）的收敛性。
• 在通信损伤条件下，该方法在收敛精度和稳定性方面优于基线方法。