[论文解读] Policy-Based Federated Learning

Kleomenis Katevas, Eugene Bagdasaryan+5 more|arXiv (Cornell University)|Mar 14, 2020

Privacy-Preserving Technologies in Data参考文献 64被引用 4

一句话总结

PoliFL 是一种去中心化、基于边缘的联邦学习框架，可对不同用户群体实施异构隐私策略——支持不同级别的差分隐私和数据访问控制。该框架在尊重个体隐私偏好的前提下，实现了对敏感移动数据（如文本、图像、传感器日志）的准确模型训练，在高隐私设置下采用级联训练，图像分类准确率最高达到 84.07%。

ABSTRACT

In this paper we present PoliFL, a decentralized, edge-based framework that supports heterogeneous privacy policies for federated learning. We evaluate our system on three use cases that train models with sensitive user data collected by mobile phones - predictive text, image classification, and notification engagement prediction - on a Raspberry Pi edge device. We find that PoliFL is able to perform accurate model training and inference within reasonable resource and time budgets while also enforcing heterogeneous privacy policies.

研究动机与目标

• 解决现有联邦学习系统假设所有用户采用统一隐私策略的局限性。
• 在去中心化、基于边缘的环境中，支持多样化的隐私需求，如不同的差分隐私预算和选择性数据访问（例如位置、麦克风）。
• 实现在涉及敏感移动数据（如预测性文本、图像分类和用户行为建模）的实际应用场景中，联邦学习的实用化部署。
• 证明在边缘端可强制实施异构策略，而不会损害模型准确率或隐私保证。

提出的方法

• PoliFL 采用基于策略的架构，每个用户设备在本地模型训练过程中强制执行自身的隐私策略。
• 一个中心化的 PoliFL 服务器通过联邦平均算法协调模型聚合，并利用群体的隐私预算（$\epsilon$）对最终模型应用差分隐私。
• 系统采用级联训练：根据用户群体的隐私偏好，按顺序在不同用户组上依次训练模型，从而提升整体准确率。
• 策略通过领域特定语言定义，用于控制数据访问（例如允许/禁止访问位置或麦克风）和差分隐私参数（$\sigma$）。
• 框架通过 VPN 层实现加密通信，安全地在服务器与边缘设备之间分发策略和结果。
• 仅当本地策略允许数据共享时，模型更新才会发送回服务器，从而确保端到端的隐私强制执行。

实验结果

研究问题

• RQ1 联邦学习系统能否在不同用户群体之间支持异构隐私策略，如不同的差分隐私预算和选择性数据访问？
• RQ2 在不同隐私约束的用户组上按顺序训练模型（即级联训练）对模型准确率和隐私预算消耗有何影响？
• RQ3 去中心化、基于边缘的框架能否在不依赖集中信任模型的前提下强制实施用户特定的隐私策略？
• RQ4 在真实移动应用场景中，高隐私设置（如 $\sigma=0.001$）与低隐私设置（如 $\sigma=0.01$）之间的性能权衡如何？

主要发现

• 在图像分类任务中，级联训练实现了 84.07% 的准确率，优于高隐私设置（$\sigma=0.01$）下的联合训练和低隐私设置（$\sigma=0.001$）下的单组训练。
• 在预测性文本建模中，高隐私偏好用户（$\sigma=0.001$）达到 77.84% 的准确率，低隐私偏好用户达到 70.22%，级联训练进一步提升了性能。
• 在用户行为建模中，级联训练实现了 71.1% 的 AUC，比排除所有用户敏感数据的同质策略提升了 1.13%。
• 在所有三个用例中，级联训练方法均优于高隐私和低隐私设置，证明其在隐私与准确率之间实现平衡的有效性。
• 为保护 $\epsilon$ 隐私预算，低隐私组的训练必须提前停止（例如在第 250 个周期），凸显了隐私与模型收敛之间的权衡。
• 该系统成功在边缘设备上强制实施了异构策略，在保持隐私保证的同时，实现了在 Raspberry Pi 设备上的准确模型聚合。