[论文解读] Federated Reconstruction: Partially Local Federated Learning

Karan Singhal, Hakim Sidahmed+4 more|arXiv (Cornell University)|Feb 5, 2021

Privacy-Preserving Technologies in Data参考文献 55被引用 24

一句话总结

本文提出了联邦重建（FedRecon），一种面向部分本地联邦学习的模型无关框架，可在训练全局模型参数的同时于设备端重建本地参数，从而实现在跨设备场景下的快速个性化与可扩展性。该方法在减少通信量的同时，实现了对未见客户端的最先进性能，在真实世界移动键盘部署中，表情推荐的点击率提升了29.3%。

ABSTRACT

Personalization methods in federated learning aim to balance the benefits of federated and local training for data availability, communication cost, and robustness to client heterogeneity. Approaches that require clients to communicate all model parameters can be undesirable due to privacy and communication constraints. Other approaches require always-available or stateful clients, impractical in large-scale cross-device settings. We introduce Federated Reconstruction, the first model-agnostic framework for partially local federated learning suitable for training and inference at scale. We motivate the framework via a connection to model-agnostic meta learning, empirically demonstrate its performance over existing approaches for collaborative filtering and next word prediction, and release an open-source library for evaluating approaches in this setting. We also describe the successful deployment of this approach at scale for federated collaborative filtering in a mobile keyboard application.

研究动机与目标

• 解决现有联邦学习方法在大规模跨设备场景下不切实际的全参数通信或有状态客户端需求所导致的局限性。
• 在无需额外通信的情况下，实现对新出现的未见客户端的快速个性化，支持在实际应用中的部署。
• 开发一种模型无关的框架，平衡全局模型聚合与设备端本地参数重建，提升对数据异构性和隐私约束的鲁棒性。
• 在生产环境中展示可扩展性与性能，特别是在移动应用中的协同过滤场景。
• 发布一个开源库，降低在部分本地联邦学习中进行研究与部署的门槛。

提出的方法

• 该框架将模型参数划分为全局与本地两部分，训练期间仅将全局参数发送至服务器。
• 客户端利用当前的全局参数和本地数据重建其本地参数，实现在设备端的个性化，而无需共享本地权重。
• 该方法通过与模型无关元学习的联系得到理论支持，其中推理阶段的重建对应于通过少样本优化实现的快速适应。
• 提出了一种实用算法 FedRecon，通过交替执行全局聚合与本地重建，利用重建损失使本地参数与客户端数据对齐。
• 训练过程采用双层优化目标：全局参数通过联邦平均进行更新，而本地参数则在每个客户端上通过重建进行优化。
• 该框架通过仅使用全局模型和客户端自身数据，支持对新客户端的推理，无需事先通信。

实验结果

研究问题

• RQ1 一种模型无关的联邦学习框架是否能在不依赖有状态客户端或全参数通信的情况下，实现对未见客户端的快速个性化？
• RQ2 在准确率与通信效率方面，联邦重建方法相较于集中式训练、标准联邦学习及其他个性化方法的性能表现如何？
• RQ3 该框架是否能够扩展至具有高客户端异构性与部分参与的现实世界大规模跨设备部署？
• RQ4 与元学习的关联是否能够解释重建过程中观察到的快速适应行为？
• RQ5 在生产环境中部署此类系统时，特别是在数据稀疏性和客户端掉线的情况下，存在哪些实际挑战与权衡？

主要发现

• FedRecon 在真实世界移动键盘部署中，使表情推荐的点击率提升了 29.3%，展现出显著的实际影响。
• 该方法在未见客户端上的表现优于标准的集中式与联邦训练，显示出更强的泛化能力与个性化性能。
• FedRecon 实现了对新客户端的快速适应，通信量极低，性能与其它个性化技术相当，但通信开销更小。
• 该框架在生产环境中成功扩展至数亿客户端，支持部分参与与不可靠的客户端可用性。
• 发布的开源库使得 FedRecon 在各种任务与模型上的复现与扩展更加便捷，显著降低了研究门槛。
• 实证结果表明，FedRecon 有效介于本地训练与全局训练之间，提升了对数据异构性的鲁棒性，并降低了隐私风险。