[论文解读] Temporal-Structure-Assisted Gradient Aggregation for Over-the-Air Federated Edge Learning

Dian Fan, Xiaojun Yuan+1 more|arXiv (Cornell University)|Mar 3, 2021

Privacy-Preserving Technologies in Data参考文献 26被引用 7

一句话总结

本文提出了一种新型的空中联邦边缘学习框架——时序-结构辅助梯度聚合（TSA-GA），该框架通过马尔可夫先验模型利用模型梯度在训练轮次间的时序相关性。通过将贝叶斯推理与消息传递相结合，TSA-GA在低复杂度下实现了接近最优的恢复性能，在收敛速度和测试准确率方面显著优于现有最先进方法，同时接近无误差基准性能。

ABSTRACT

In this paper, we investigate over-the-air model aggregation in a federated edge learning (FEEL) system. We introduce a Markovian probability model to characterize the intrinsic temporal structure of the model aggregation series. With this temporal probability model, we formulate the model aggregation problem as to infer the desired aggregated update given all the past observations from a Bayesian perspective. We develop a message passing based algorithm, termed temporal-structure-assisted gradient aggregation (TSA-GA), to fulfil this estimation task with low complexity and near-optimal performance. We further establish the state evolution (SE) analysis to characterize the behaviour of the proposed TSA-GA algorithm, and derive an explicit bound of the expected loss reduction of the FEEL system under certain standard regularity conditions. In addition, we develop an expectation maximization (EM) strategy to learn the unknown parameters in the Markovian model. We show that the proposed TSAGA algorithm significantly outperforms the state-of-the-art, and is able to achieve comparable learning performance as the error-free benchmark in terms of both convergence rate and final test accuracy.

研究动机与目标

• 为解决在不可靠无线信道下联邦边缘学习（FEEL）中上行链路通信开销这一关键瓶颈问题。
• 利用以往被忽视的模型梯度在训练轮次间的时序相关性，以提升聚合精度和学习收敛性。
• 开发一种低复杂度、在线的梯度恢复算法，同时利用轮内稀疏性与轮间时序结构。
• 在标准正则性条件下，通过状态演化分析建立理论性能边界。
• 通过期望最大化（EM）策略实现马尔可夫时序模型的参数学习。

提出的方法

• 将模型聚合问题建模为基于马尔可夫概率模型的贝叶斯推理任务，以捕捉梯度更新中的时序相关性。
• 提出一种基于消息传递的算法TSA-GA，从未经观测中估计聚合梯度的最小均方误差（MMSE）解。
• 扩展Turbo-CS框架，实现在线稀疏信号恢复，相较于AMP-based方法具有更优的收敛性和性能。
• 推导出显式的状态演化方程，以表征算法的行为与收敛动力学。
• 引入期望最大化（EM）策略，从未知参数中学习马尔可夫模型的参数。
• 结合压缩感知原理与时序先验，从受噪声污染的空中接收信号中重建全局模型更新。

实验结果

研究问题

• RQ1 模型梯度在训练轮次间的时序相关性是否可被有效利用以提升空中联邦边缘学习性能？
• RQ2 如何构建一个马尔可夫先验模型以表征训练轮次间梯度更新的时序结构？
• RQ3 在无线信道噪声存在的情况下，低复杂度的消息传递算法是否可实现接近最优的梯度恢复性能？
• RQ4 能否通过状态演化分析为所提算法推导出理论性能边界？
• RQ5 基于EM的方法从数据中学习时序模型未知参数的效果如何？

主要发现

• TSA-GA在收敛速度和最终测试准确率方面与无误差基准相当，显著优于现有最先进方法。
• 所提算法在低计算复杂度下表现出接近最优的性能，适用于实时边缘部署。
• 状态演化分析验证了算法的收敛性，并在标准正则性条件下提供了预期损失减少的理论边界。
• 基于EM的参数学习策略能有效从未观测的梯度序列中估计马尔可夫模型的未知参数。
• 将轮间时序相关性与轮内稀疏性相结合，相较于仅依赖稀疏性的方法，显著提升了梯度恢复精度。
• 理论分析表明，期望梯度误差呈指数衰减，确保了FEEL系统的快速收敛。