[论文解读] Asynchronous Federated Learning with Reduced Number of Rounds and with Differential Privacy from Less Aggregated Gaussian Noise

Marten van Dijk, Nhuong V. Nguyen+4 more|arXiv (Cornell University)|Jul 17, 2020

Privacy-Preserving Technologies in Data参考文献 34被引用 17

一句话总结

该论文提出了一种异步联邦学习算法，通过最小化聚合高斯噪声，减少了通信轮次并增强了差分隐私。通过使用递减的学习率和增加本地样本量，该方法在保持凸性和非凸性问题下高模型准确率的同时，实现了更快的收敛速度和更低的隐私成本。

ABSTRACT

The feasibility of federated learning is highly constrained by the server-clients infrastructure in terms of network communication. Most newly launched smartphones and IoT devices are equipped with GPUs or sufficient computing hardware to run powerful AI models. However, in case of the original synchronous federated learning, client devices suffer waiting times and regular communication between clients and server is required. This implies more sensitivity to local model training times and irregular or missed updates, hence, less or limited scalability to large numbers of clients and convergence rates measured in real time will suffer. We propose a new algorithm for asynchronous federated learning which eliminates waiting times and reduces overall network communication - we provide rigorous theoretical analysis for strongly convex objective functions and provide simulation results. By adding Gaussian noise we show how our algorithm can be made differentially private -- new theorems show how the aggregated added Gaussian noise is significantly reduced.

研究动机与目标

• 为解决由于同步客户端-服务器同步导致的联邦学习可扩展性和通信瓶颈问题。
• 在不牺牲模型准确率的前提下，减少联邦学习中的通信轮次。
• 为强凸目标下的异步联邦学习提供理论收敛保证。
• 在保持模型效用的前提下，最小化差分隐私机制中的聚合高斯噪声。
• 实现在异构设备和数据环境下高效、可扩展且私有的联邦学习。

提出的方法

• 提出一种异步联邦学习框架，允许客户端在每轮中使用可变且递增的样本量进行本地训练。
• 采用递减学习率方案（例如，强凸情况下为 η₀/(1+βt)，普通凸情况下为 η₀/(1+β√t)），以确保收敛。
• 通过向本地梯度添加高斯噪声来应用差分隐私，并通过理论分析表明，与先前方法相比，聚合噪声显著减少。
• 采用受 Hogwild! 启发的异步SGD框架，以容忍乱序更新和可变的客户端训练时间。
• 设计一种灵活的本地训练调度机制，使客户端在每轮中执行更多SGD迭代，从而减少对频繁全局同步的需求。
• 理论分析基于带允许延迟的一般SGD递推模型，支持对强凸函数的收敛性证明。

实验结果

研究问题

• RQ1 在使用递增本地样本量的异步联邦学习中，是否能减少通信轮次并保持收敛？
• RQ2 递减学习率的选择如何影响异步联邦学习中的收敛速度和模型准确率？
• RQ3 在异步联邦学习中，是否能有效应用差分隐私并显著减少聚合高斯噪声？
• RQ4 在现实联邦设置中常见的数据分布偏差下，该框架表现如何？
• RQ5 在具有差分隐私的异步联邦学习中，通信效率、隐私预算与模型准确率之间的权衡是什么？

主要发现

• 所提出的具有递减学习率和递增样本量的异步联邦学习方法，相比恒定学习率基线，实现了更快的收敛速度和更少的通信轮次。
• 对于强凸和非凸问题，该方法在相同隐私预算下，准确率均高于恒定学习率方案（例如，η=0.01，η=0.001）。
• 即使在数据集存在偏差的情况下（例如，一个客户端仅有数字0，另一个仅有数字1），该框架仍保持良好性能，表现出对数据不平衡的鲁棒性。
• 在差分隐私设置下，(ε,δ) = (1.0, 5.5×10⁻⁸) 且 σ=8.0 时，该方法在保持高准确率的同时显著减少了聚合高斯噪声，优于恒定参数设置。
• 理论分析证实，在允许延迟的异步更新下，强凸目标函数具有收敛性，为实际部署提供了理论基础。
• 仿真结果表明，递增样本量序列 s_i,c = 1.322·i + 16（其中 p=1.0）可实现更少轮次的有效训练，并获得更优的隐私-准确率权衡。