[论文解读] Personalized Federated Learning with First Order Model Optimization

Michael Zhang, Karan Sapra+3 more|arXiv (Cornell University)|Dec 15, 2020

Privacy-Preserving Technologies in Data参考文献 29被引用 26

一句话总结

该论文提出 FedFomo，一种个性化联邦学习框架，使客户端能够通过一阶优化动态组合其他客户端的模型，以更好地匹配其自身的目标数据分布。通过基于个性化目标在客户端上的表现计算客户端特定的加权模型组合，FedFomo 在非独立同分布（non-IID）设置下相比基线方法准确率最高提升 70%，并在差分隐私保护下保持强劲性能。

ABSTRACT

While federated learning traditionally aims to train a single global model across decentralized local datasets, one model may not always be ideal for all participating clients. Here we propose an alternative, where each client only federates with other relevant clients to obtain a stronger model per client-specific objectives. To achieve this personalization, rather than computing a single model average with constant weights for the entire federation as in traditional FL, we efficiently calculate optimal weighted model combinations for each client, based on figuring out how much a client can benefit from another's model. We do not assume knowledge of any underlying data distributions or client similarities, and allow each client to optimize for arbitrary target distributions of interest, enabling greater flexibility for personalization. We evaluate and characterize our method on a variety of federated settings, datasets, and degrees of local data heterogeneity. Our method outperforms existing alternatives, while also enabling new features for personalized FL such as transfer outside of local data distributions.

研究动机与目标

• 解决在非独立同分布联邦学习设置下全局模型的局限性，其中单一模型无法满足多样化客户端的特定需求。
• 使客户端能够在不共享原始数据的前提下，针对其本地训练数据之外的目标数据分布进行优化。
• 开发一种高效、可扩展的个性化联邦更新方法，避免依赖全局模型平均或数据相似性假设。
• 评估个性化学习在差分隐私下的鲁棒性，确保在不牺牲性能的前提下实现强隐私保障。

提出的方法

• FedFomo 根据每个客户端在其个性化目标分布上的表现，基于上传模型计算客户端特定的加权组合，取代传统的全局平均方法。
• 它使用一阶模型优化来近似个性化梯度步长，实现在无需直接访问其他客户端数据的前提下高效且可扩展的更新。
• 每个客户端在其自身的目标任务上评估其他模型，并为在该特定目标上表现更优的模型分配更高的权重。
• 该方法采用两步联邦更新机制：(1) 在客户端特定目标上评估模型性能；(2) 使用一阶近似计算最优加权组合。
• 它在各轮次中保持每个客户端的独立模型参数，允许根据与客户端目标分布的相关性选择性地包含模型。
• FedFomo 兼容差分隐私，采用 DP-SGD 在本地训练期间添加受控的高斯噪声，同时保持个性化性能。

实验结果

研究问题

• RQ1 联邦学习框架是否能在不假设客户端间数据相似性或共享分布的前提下实现强个性化？
• RQ2 客户端如何仅使用其他客户端的模型参数，无需访问原始数据，高效计算个性化模型更新？
• RQ3 个性化联邦学习能否扩展至优化与本地训练数据不一致的分布外目标任务？
• RQ4 所提出方法在差分隐私下的表现如何？是否能在确保强隐私保障的同时保持高准确率？

主要发现

• 在非独立同分布联邦图像分类设置下，FedFomo 相比基线方法准确率最高提升 70%，且随着数据异质性增加，增益更为显著。
• 在 CIFAR-10 上，FedFomo 在非私有设置下达到 71.56% 的准确率，显著优于 FedAvg 的 19.37%。
• 在差分隐私设置下（σ=1），FedFomo 在 CIFAR-10 上保持 71.28% 的准确率，同时实现 ε=6.89，展现出优异的隐私-性能权衡。
• 即使在高斯噪声较大（σ=2）的情况下，FedFomo 仍保持 CIFAR-10 上 65.97% 的准确率，显示出对隐私保护更新的强鲁棒性。
• FedFomo 成功识别出底层本地数据分布，并提升与各客户端目标目标最匹配的模型的权重。
• 该方法实现了对分布外性能的优化，这是以往基于相似性的个性化方法所不具备的能力。