[论文解读] Non-Coherent Over-the-Air Decentralized Gradient Descent

Nicolò Michelusi|arXiv (Cornell University)|Nov 19, 2022

Distributed Sensor Networks and Detection Algorithms被引用 4

一句话总结

该论文提出NCOTA-DSGD，一种用于无线连接系统的去中心化随机梯度下降算法，通过利用正交前导序列的非相干合并，实现在无需信道状态信息情况下的空中共识。其收敛速率为𝒪(k⁻¹/⁴)，在大规模、延迟受限场景中优于数字和模拟DSGD，得益于极短的帧持续时间（1.8ms）以及对衰落和噪声的鲁棒性。

ABSTRACT

Implementing Decentralized Gradient Descent (DGD) in wireless systems is challenging due to noise, fading, and limited bandwidth, necessitating topology awareness, transmission scheduling, and the acquisition of channel state information (CSI) to mitigate interference and maintain reliable communications. These operations may result in substantial signaling overhead and scalability challenges in large networks lacking central coordination. This paper introduces a scalable DGD algorithm that eliminates the need for scheduling, topology information, or CSI (both average and instantaneous). At its core is a Non-Coherent Over-The-Air (NCOTA) consensus scheme that exploits a noisy energy superposition property of wireless channels. Nodes encode their local optimization signals into energy levels within an OFDM frame and transmit simultaneously, without coordination. The key insight is that the received energy equals, on average, the sum of the energies of the transmitted signals, scaled by their respective average channel gains, akin to a consensus step. This property enables unbiased consensus estimation, utilizing average channel gains as mixing weights, thereby removing the need for their explicit design or for CSI. Introducing a consensus stepsize mitigates consensus estimation errors due to energy fluctuations around their expected values. For strongly-convex problems, it is shown that the expected squared distance between the local and globally optimum models vanishes at a rate of O(1/sqrt{k}) after k iterations, with suitable decreasing learning and consensus stepsizes. Extensions accommodate a broad class of fading models and frequency-selective channels. Numerical experiments on image classification demonstrate faster convergence in terms of running time compared to state-of-the-art schemes, especially in dense network scenarios.

研究动机与目标

• 解决大规模、分布式无线网络中高设备密度和链路不可靠时集中式联邦学习的局限性。
• 克服在无线信道上进行去中心化优化时对信道状态信息（CSI）和集中协调的依赖。
• 设计一种利用自然信号叠加和路径损耗实现混合的共识机制，而无需显式了解混合权重。
• 通过最小化帧持续时间并保持对衰落和噪声的鲁棒性，在严格延迟约束下实现快速收敛。
• 在不依赖正交、无误码通信链路或集中式调度的情况下，实现去中心化学习向全局最优收敛。

提出的方法

• 将本地优化信号映射到正交前导序列上，通过无线介质并发传输。
• 通过将接收信号与已知前导序列进行互相关，在接收端采用非相干合并以估计共识。
• 使用共识步长以减轻噪声和衰落影响，实现无需信道状态信息的运行。
• 利用路径损耗自然地混合各设备的信号，消除对混合权重显式知识的需求。
• 通过两步更新机制将本地随机梯度下降与空中共识相结合：先估计共识，再执行本地模型更新。
• 采用递减的共识和学习步长，以确保在空中信号失真条件下仍能收敛至全局最优。

实验结果

研究问题

• RQ1 能否在无需信道状态信息的情况下，有效实现在无线信道上的去中心化随机梯度下降？
• RQ2 如何在无线瑞利衰落信道中利用波形叠加，以高效计算去中心化学习框架中的共识？
• RQ3 在缺乏显式混合权重知识的情况下，非相干空中共识机制能达到何种收敛速率？
• RQ4 在延迟约束下，NCOTA-DSGD与数字和模拟空中DSGD相比，在收敛速度和鲁棒性方面表现如何？
• RQ5 在大规模无线网络中，缺乏集中协调和CSI在多大程度上影响去中心化学习的稳定性和性能？

主要发现

• 在共识和学习步长适当调节下，NCOTA-DSGD在k次迭代后，相对于全局最优的欧氏距离收敛速率为𝒪(k⁻¹/⁴)。
• 该算法帧持续时间仅为1.8ms，可在2000ms内实现超过1000次迭代，显著优于数字（OD-DSGD）和模拟（OA-DSGD）方法的更新频率。
• NCOTA-DSGD在不同节点数（N）下保持近乎一致的性能，当N超过200后性能下降极小。
• 当N ≥ 200时，其在2000ms内的总误差优于OD-DSGD的两种变体，归因于更快的收敛速度和更短的帧持续时间。
• 该算法对衰落和噪声具有鲁棒性，其性能接近无噪声版本，归功于共识步长机制。
• 尽管由于对衰落敏感导致不同实现间性能标准差较高，NCOTA-DSGD在2000ms内所有指标中收敛最快，优于OD-DSGD（21次迭代）和OA-DSGD（11次迭代）。