[论文解读] Incentive Mechanism for Privacy-Preserving Federated Learning.

Shuyuan Zheng, Yang Cao+1 more|arXiv (Cornell University)|Jun 8, 2021

Privacy-Preserving Technologies in Data参考文献 33被引用 4

一句话总结

该论文提出FL-Market，一种新颖的框架，通过利用本地差分隐私（LDP）量化数据所有者的隐私损失，并提供个性化支付，联合解决联邦学习中的激励机制与隐私保护问题。该框架采用深度学习赋能的拍卖机制，激励参与者贡献噪声更少的梯度，从而在提升模型效用的同时实现定制化的隐私保护。

ABSTRACT

Federated learning (FL) is an emerging paradigm for machine learning, in which data owners can collaboratively train a model by sharing gradients instead of their raw data. Two fundamental research problems in FL are incentive mechanism and privacy protection. The former focuses on how to incentivize data owners to participate in FL. The latter studies how to protect data owners' privacy while maintaining high utility of trained models. However, incentive mechanism and privacy protection in FL have been studied separately and no work solves both problems at the same time. In this work, we address the two problems simultaneously by an FL-Market that incentivizes data owners' participation by providing appropriate payments and privacy protection. FL-Market enables data owners to obtain compensation according to their privacy loss quantified by local differential privacy (LDP). Our insight is that, by meeting data owners' personalized privacy preferences and providing appropriate payments, we can (1) incentivize privacy risk-tolerant data owners to set larger privacy parameters (i.e., gradients with less noise) and (2) provide preferred privacy protection for privacy risk-averse data owners. To achieve this, we design a personalized LDP-based FL framework with a deep learning-empowered auction mechanism for incentivizing trading gradients with less noise and optimal aggregation mechanisms for model updates. Our experiments verify the effectiveness of the proposed framework and mechanisms.

研究动机与目标

• 解决现有联邦学习系统将激励机制与隐私保护视为独立问题的缺陷。
• 设计一个统一框架，同时激励数据所有者参与并根据其个体风险偏好保护其隐私。
• 使数据所有者能够根据其隐私损失（以本地差分隐私LDP量化）获得相应补偿。
• 开发一种拍卖机制，通过奖励贡献低噪声梯度（即高实用性）的用户来激励参与。
• 通过将个性化隐私水平与支付策略整合到训练过程中，确保最优的模型聚合。

提出的方法

• 提出FL-Market，一种基于市场的框架，使数据所有者能够以隐私损失为依据，通过交换梯度获得相应支付。
• 采用本地差分隐私（LDP）量化并管理个体数据所有者的隐私风险，支持个性化隐私参数设置。
• 设计一种由深度学习赋能的拍卖机制，根据参与者提交的梯度质量（噪声水平）确定最优支付。
• 采用最优聚合机制，根据隐私水平和贡献质量对模型更新进行加权，以提升全局模型效用。
• 将个性化隐私偏好集成到训练循环中，使隐私敏感的用户可设置更严格的隐私参数，同时仍获得合理补偿。

实验结果

研究问题

• RQ1 如何在联邦学习中设计一种激励机制，以考虑数据所有者的个性化隐私偏好？
• RQ2 通过LDP实现的个性化隐私损失量化对模型效用与参与者参与度有何影响？
• RQ3 基于拍卖的支付系统能否有效激励数据所有者贡献更高质量（噪声更少）的梯度？
• RQ4 个性化隐私与支付机制的整合如何影响联邦模型的整体性能与收敛性？
• RQ5 在联邦学习环境中，隐私保护、模型效用与参与者激励之间存在何种权衡？

主要发现

• 所提出的FL-Market框架通过将支付与本地差分隐私（LDP）度量的隐私损失对齐，成功激励了数据所有者参与联邦学习。
• 对隐私风险容忍度较高的参与者更可能因获得更高补偿而贡献噪声更少的梯度，从而提升模型效用。
• 对隐私风险敏感的参与者通过更严格的LDP参数得到保护，确保其数据得到充分保护且不损害参与意愿。
• 由深度学习赋能的拍卖机制能有效识别并奖励高质量的梯度贡献，从而实现更快收敛与更高模型准确率。
• 最优聚合机制通过根据隐私水平与数据质量对更新进行加权，显著提升了模型性能，从而增强了全局模型效用。