[论文解读] When Crowdsensing Meets Federated Learning: Privacy-Preserving Mobile Crowdsensing System

Bowen Zhao, Ximeng Liu+1 more|arXiv (Cornell University)|Feb 20, 2021

Privacy-Preserving Technologies in Data参考文献 38被引用 14

一句话总结

本文提出 CrowdFL，一种保护隐私的移动众包感知系统，通过集成联邦学习在数据收集和模型训练过程中保护参与者数据。通过采用新颖的隐私保护联邦平均算法，实现本地模型训练及加密模型的安全聚合，同时利用丢弃与重传策略降低通信与计算开销，实现高效且公平的激励分配，并通过真实世界数据的实验验证。

ABSTRACT

Mobile crowdsensing (MCS) is an emerging sensing data collection pattern with scalability, low deployment cost, and distributed characteristics. Traditional MCS systems suffer from privacy concerns and fair reward distribution. Moreover, existing privacy-preserving MCS solutions usually focus on the privacy protection of data collection rather than that of data processing. To tackle faced problems of MCS, in this paper, we integrate federated learning (FL) into MCS and propose a privacy-preserving MCS system, called extsc{CrowdFL}. Specifically, in order to protect privacy, participants locally process sensing data via federated learning and only upload encrypted training models. Particularly, a privacy-preserving federated averaging algorithm is proposed to average encrypted training models. To reduce computation and communication overhead of restraining dropped participants, discard and retransmission strategies are designed. Besides, a privacy-preserving posted pricing incentive mechanism is designed, which tries to break the dilemma of privacy protection and data evaluation. Theoretical analysis and experimental evaluation on a practical MCS application demonstrate the proposed extsc{CrowdFL} can effectively protect participants privacy and is feasible and efficient.

研究动机与目标

• 解决移动众包感知中的隐私问题，即不可信平台可能滥用收集的参与者数据。
• 克服现有隐私保护方案仅关注数据收集而忽略数据处理的局限性。
• 提升系统在无线网络中常见参与者中断情况下的鲁棒性。
• 设计一种高效、隐私保护的激励机制，根据模型贡献公平奖励参与者。
• 将联邦学习集成到移动众包感知中，实现去中心化、隐私保护的数据处理。

提出的方法

• 提出一种隐私保护联邦平均（PriFedAvg）算法，可在不暴露原始数据或模型参数的情况下实现加密本地训练模型的安全聚合。
• 采用 Paillier 加密系统对模型更新进行加密，确保传输和聚合过程中的机密性。
• 引入丢弃与重传策略以应对参与者中断，降低通信与计算开销。
• 设计一种隐私保护的公示定价机制（PriRwd），在不暴露敏感数据的前提下评估模型贡献。
• 使用秘密共享与门限解密技术，实现在参与者中断时对模型参数的部分恢复。
• 采用 PCTD（隐私保护门限解密计算）技术，实现在不泄露私钥的前提下安全解密全局模型。

实验结果

研究问题

• RQ1 如何有效将联邦学习集成到移动众包感知中，以在数据处理过程中保护参与者隐私？
• RQ2 哪些机制可确保在不暴露敏感信息的前提下，安全高效地聚合加密模型更新？
• RQ3 如何以隐私保护的方式缓解参与者中断问题，以维持系统鲁棒性？
• RQ4 能否设计一种公平且隐私保护的激励机制，根据模型质量奖励参与者而不泄露私有数据？
• RQ5 与现有隐私保护联邦学习方法相比，所提出系统在效率与安全性方面表现如何？

主要发现

• 与 PPFDL 相比，CrowdFL 将模型平均的计算成本降低了约 50%，这是由于避免了对每个参与者的权重计算。
• CrowdFL 的加密开销可忽略不计，因为仅加密模型更新差异 δi，而非完整模型。
• 当使用较大的 λp 时，CrowdFL 的解密时间约为 PPFDL 的两倍，但通过设置 λsp=2 可将其降低至低于 PPFDL。
• 奖励分配机制（PriRwd）的运行时间与模型平均相近，表现出高效率。
• 基于真实世界数据的实验评估证实，CrowdFL 具备可行性、高效性以及强大的隐私保障能力。
• 该系统能有效防止数据泄露，并在不暴露私有数据或模型参数的前提下支持公平的奖励分配。