[论文解读] Jointly Learning from Decentralized (Federated) and Centralized Data to Mitigate Distribution Shift

Sean Augenstein, Andrew Hard+2 more|arXiv (Cornell University)|Nov 23, 2021

Privacy-Preserving Technologies in Data参考文献 19被引用 5

一句话总结

该论文提出了一种混合联邦学习框架，通过结合去中心化（设备端）数据与选择性集中数据，减少训练与推理之间的分布偏移。通过使用示例迁移、梯度迁移和模型平均等策略，该方法在保护用户隐私的同时提升了模型泛化能力，在人脸属性预测等下游任务中取得了更优性能。

ABSTRACT

With privacy as a motivation, Federated Learning (FL) is an increasingly used paradigm where learning takes place collectively on edge devices, each with a cache of user-generated training examples that remain resident on the local device. These on-device training examples are gathered in situ during the course of users' interactions with their devices, and thus are highly reflective of at least part of the inference data distribution. Yet a distribution shift may still exist; the on-device training examples may lack for some data inputs expected to be encountered at inference time. This paper proposes a way to mitigate this shift: selective usage of datacenter data, mixed in with FL. By mixing decentralized (federated) and centralized (datacenter) data, we can form an effective training data distribution that better matches the inference data distribution, resulting in more useful models while still meeting the private training data access constraints imposed by FL.

研究动机与目标

• 解决联邦学习中残余分布偏移的问题，其中设备端数据可能缺乏推理数据中包含的关键样本（例如负面样本或罕见情况）。
• 通过避免直接访问原始用户数据，在保持强大隐私保障的同时仍能利用高质量的集中数据。
• 通过以符合联邦学习约束的方式战略性地混合去中心化与集中化数据，提升模型的实用性与鲁棒性。
• 探索实用的混合策略——示例迁移、梯度迁移和模型平均——以在不违反数据最小化原则的前提下实现有效融合。

提出的方法

• 提出三种策略——示例迁移、梯度迁移和模型平均——在尊重隐私约束的前提下将集中数据集成到联邦学习中。
• 以FedAvg作为基础联邦学习算法，并对其进行修改，以同步方式交替执行设备端模型更新与集中数据训练。
• 通过从集中数据中采样示例并将其注入本地客户端更新来实现示例迁移，确保原始数据不会离开服务器。
• 通过仅共享集中训练的模型梯度来实现梯度迁移，最大限度减少原始数据暴露，同时实现知识迁移。
• 通过将联邦学习得到的全局模型与集中训练的模型进行平均，实现模型平均，从而生成泛化能力更强的复合模型。
• 引入差分隐私和联邦私有生成模型等隐私保护技术，进一步保护敏感的集中数据。

实验结果

研究问题

• RQ1 如何在不损害用户隐私的前提下，有效且私密地将集中数据整合到联邦学习中，以减少分布偏移？
• RQ2 在模型准确率和下游推理任务鲁棒性方面，哪种混合策略——示例迁移、梯度迁移或模型平均——表现最佳？
• RQ3 集中数据在多大程度上可以弥补去中心化训练数据中缺失或不平衡的数据（例如负面样本）？
• RQ4 在隐私保护的前提下，通过选择性过滤或有针对性地收集集中数据，是否能与联邦数据结合以提升模型性能？
• RQ5 在动态、持续学习场景中，当设备端数据分布随时间演变时，如何调整混合过程？

主要发现

• 该混合方法显著减少了训练数据与推理数据之间的分布偏移，尤其在罕见或代表性不足的类别上性能提升明显。
• 在CelebA数据集上，示例迁移和模型平均策略在最终模型准确率方面优于梯度迁移，尤其在属性预测任务中表现更优。
• 模型平均在隐私与性能之间实现了最佳平衡，因为它避免了集中数据及其梯度的直接暴露。
• 该方法通过有针对性地补充集中数据中的示例，有效缓解了标签偏向性保留偏差，例如缺失负面样本（如不微笑的面部）。
• 实验表明，将反映真实用户行为的联邦数据与经过筛选的集中数据（代表专家或罕见情况）相结合，可生成推理准确率更高、鲁棒性更强的模型。
• 该框架通过确保罕见但关键的场景（例如恶劣天气驾驶条件）在训练中得到更好体现，使模型在安全关键应用中具备实际部署可行性。