[论文解读] Fast-adapting and Privacy-preserving Federated Recommender System

Qinyong Wang, Hongzhi Yin+4 more|arXiv (Cornell University)|Apr 2, 2021

Privacy-Preserving Technologies in Data参考文献 92被引用 15

一句话总结

本文提出PrivRec，一种快速适应且隐私保护的联邦推荐系统，可在不集中化数据的情况下在用户设备上训练深度神经网络。通过结合一阶元学习以实现快速个性化，以及用户级别的差分隐私与两阶段训练策略，PrivRec在模拟联邦学习环境下的两个大规模数据集上实现了高推荐准确率，同时确保了强大的隐私保障。

ABSTRACT

In the mobile Internet era, the recommender system has become an irreplaceable tool to help users discover useful items, and thus alleviating the information overload problem. Recent deep neural network (DNN)-based recommender system research have made significant progress in improving prediction accuracy, which is largely attributed to the access to a large amount of users' personal data collected from users' devices and then centrally stored in the cloud server. However, as there are rising concerns around the globe on user privacy leakage in the online platform, the public is becoming anxious by such abuse of user privacy. Therefore, it is urgent and beneficial to develop a recommender system that can achieve both high prediction accuracy and high degree of user privacy protection. To this end, we propose a DNN-based recommendation model called PrivRec running on the decentralized federated learning (FL) environment, which ensures that a user's data never leaves his/her during the course of model training. On the other hand, to better embrace the data heterogeneity commonly existing in FL, we innovatively introduce a first-order meta-learning method that enables fast in-device personalization with only few data points. Furthermore, to defense from potential malicious participant that poses serious security threat to other users, we develop a user-level differentially private DP-PrivRec model so that it is unable to determine whether a particular user is present or not solely based on the trained model. Finally, we conduct extensive experiments on two large-scale datasets in a simulated FL environment, and the results validate the superiority of our proposed PrivRec and DP-PrivRec.

研究动机与目标

• 解决集中式推荐系统中因在云服务器上收集和存储个人数据而引发的用户隐私日益增长的担忧。
• 克服联邦学习中的数据异质性问题，即用户间数据规模和质量差异巨大，尤其影响新用户或不活跃用户。
• 通过引入用户级别的差分隐私，增强对联邦学习中恶意参与者的防护，防止从模型更新中识别出用户身份。
• 开发一种方法，实现在本地数据极少的情况下快速在设备上个性化，提升冷启动和不活跃用户的表现。
• 通过引入两阶段训练方法，在隐私保护与模型准确率之间取得平衡，以缓解差分隐私带来的性能损失。

提出的方法

• 提出PrivRec，一种基于深度神经网络的推荐模型，通过联邦学习进行训练，用户数据保留在本地设备上，仅共享模型更新至服务器。
• 整合一阶元学习，利用少量本地数据点即可实现对新用户或不活跃用户的快速适应，提升个性化效率。
• 通过矩量会计机制实现用户级别的差分隐私（DP），以限制隐私损失并防止成员推断攻击。
• 设计两阶段训练流程：首先在无DP的情况下预训练全局模型，然后通过DP进行微调，以减少噪声注入带来的性能下降。
• 训练过程中使用大小相等的客户端批次，以支持分析性隐私会计并提升计算效率。
• 在用户级别应用差分隐私，确保模型不会泄露任何单个用户是否参与训练的信息。

实验结果

研究问题

• RQ1 联邦推荐系统是否能在去中心化环境中实现高推荐准确率，同时保护用户隐私？
• RQ2 在联邦学习环境中，推荐系统如何在本地数据极少的情况下有效对新用户或不活跃用户进行个性化？
• RQ3 用户级别的差分隐私在多大程度上会降低模型性能？是否可通过训练策略加以缓解？
• RQ4 两阶段训练方法是否能有效补偿联邦学习中因差分隐私引入的准确率损失？
• RQ5 如何应对用户数据分布中的数据异质性，以确保在多样化用户中实现公平且准确的模型收敛？

主要发现

• 与基线联邦模型相比，PrivRec在推荐准确率方面表现更优，尤其通过元学习显著提升了不活跃用户和冷启动用户的表现。
• 在DP-PrivRec中集成用户级别的差分隐私，确保了强大的理论隐私保障，隐私损失通过矩量会计机制得到严格界定。
• DP-PrivRec中的两阶段训练方法有效减轻了差分隐私更新中噪声注入带来的性能下降，维持了高水平的推荐质量。
• 在两个大规模数据集上的实证评估表明，PrivRec和DP-PrivRec在准确率和隐私保护方面均优于现有联邦推荐基线模型。
• 使用大小相等的客户端批次使分析性隐私会计成为可能，从而在训练过程中实现可测量且可控的隐私预算。
• 所提出的方法对数据异质性表现出鲁棒性，在不同数据规模和质量的用户中均保持一致的性能表现。