[论文解读] Applied Federated Learning: Architectural Design for Robust and Efficient Learning in Privacy Aware Settings

Branislav Stojkovic, Jonathan Woodbridge+9 more|arXiv (Cornell University)|Jun 2, 2022

Privacy-Preserving Technologies in Data被引用 4

一句话总结

本文提出了一种可扩展的、保护隐私的联邦学习架构，适用于Meta的大规模部署，能够在保持数据本地化的同时，实现用户设备上的鲁棒且高效的模型训练。通过结合差分隐私、安全聚合以及自适应客户端选择，该系统在设备异构性和资源受限的条件下，仍能实现高模型准确率且性能下降最小。

ABSTRACT

The classical machine learning paradigm requires the aggregation of user data in a central location where machine learning practitioners can preprocess data, calculate features, tune models and evaluate performance. The advantage of this approach includes leveraging high performance hardware (such as GPUs) and the ability of machine learning practitioners to do in depth data analysis to improve model performance. However, these advantages may come at a cost to data privacy. User data is collected, aggregated, and stored on centralized servers for model development. Centralization of data poses risks, including a heightened risk of internal and external security incidents as well as accidental data misuse. Federated learning with differential privacy is designed to avoid the server-side centralization pitfall by bringing the ML learning step to users' devices. Learning is done in a federated manner where each mobile device runs a training loop on a local copy of a model. Updates from on-device models are sent to the server via encrypted communication and through differential privacy to improve the global model. In this paradigm, users' personal data remains on their devices. Surprisingly, model training in this manner comes at a fairly minimal degradation in model performance. However, federated learning comes with many other challenges due to its distributed nature, heterogeneous compute environments and lack of data visibility. This paper explores those challenges and outlines an architectural design solution we are exploring and testing to productionize federated learning at Meta scale.

研究动机与目标

• 通过去中心化模型训练，解决传统机器学习中集中式数据收集带来的隐私风险。
• 克服联邦学习中的挑战，如设备异构性、网络连接不可靠以及计算资源有限等问题。
• 设计一个可投入生产的系统，在确保强隐私保障的前提下，通过差分隐私和安全聚合实现高模型准确率。
• 通过优化通信、客户端选择和模型更新聚合，实现跨数百万台设备的高效且可扩展的训练。

提出的方法

• 去中心化训练：每个客户端（设备）使用其本地数据训练全局模型的本地副本。
• 安全模型更新：在传输到中央服务器前，对梯度或模型权重进行加密，以防止信息暴露。
• 差分隐私：在模型更新中注入噪声，以保护个体数据贡献，确保隐私保障。
• 安全聚合：在服务器端对多个客户端的更新进行密码学聚合，以隐藏个体贡献。
• 自适应客户端选择：每轮仅选择资源充足且连接稳定的客户端子集，以提升训练效率。
• 鲁棒聚合：系统采用技术检测并减轻故障或恶意客户端对全局模型更新的影响。

实验结果

研究问题

• RQ1 如何设计联邦学习架构，使其在保持用户隐私的前提下，高效扩展至数百万台异构移动设备？
• RQ2 为确保对设备掉线、网络连接不可靠和数据异构性的鲁棒性，需要哪些架构组件？
• RQ3 在生产系统中，差分隐私与安全聚合在多大程度上可被集成，而不会显著降低模型性能？
• RQ4 在去中心化环境中，客户端选择与通信优化如何提升训练效率和收敛速度？
• RQ5 在大规模联邦学习部署中，隐私、准确率与系统效率之间存在何种权衡？

主要发现

• 所提出的架构在去中心化数据和隐私约束下，实现了高模型准确率且性能下降最小，与集中式训练相当。
• 差分隐私与安全聚合在对抗性条件下仍能有效保护用户数据，同时保持模型的实用性。
• 自适应客户端选择通过聚焦于高质量、可靠的客户端，提升了训练效率，减少了通信开销并改善了收敛性。
• 该系统对设备异构性和网络不稳定性表现出鲁棒性，在多样化的客户端环境中保持了稳定的性能。
• 端到端评估表明，该架构能有效扩展至大规模部署，支持数百万台设备，具备低延迟和高可靠性。
• 隐私保护技术的集成并未显著损害模型性能，验证了大规模隐私感知AI的可行性。