[论文解读] Learn to Forget: User-Level Memorization Elimination in Federated Learning.

Yang Liu, Zhuo Ma+2 more|arXiv (Cornell University)|Mar 24, 2020

Privacy-Preserving Technologies in Data被引用 15

一句话总结

本文提出了一种名为\textsc{Learn to Forget}的联邦学习框架，使用户能够从模型中擦除记忆的私有数据。每位用户训练一个伪梯度生成器，以生成对抗性梯度来抑制记忆化，从而在不损害模型安全性或联邦学习训练流程的前提下实现数据撤回。

ABSTRACT

Federated learning is a decentralized machine learning technique that evokes widespread attention in both the research field and the real-world market. However, the current privacy-preserving federated learning scheme only provides a secure way for the users to contribute their private data but never leaves a way to withdraw the contribution to model update. Such an irreversible setting potentially breaks the regulations about data protection and increases the risk of data extraction. To resolve the problem, this paper describes a novel concept for federated learning, called memorization elimination. Based on the concept, we propose \sysname, a federated learning framework that allows the user to eliminate the memorization of its private data in the trained model. Specifically, each user in \sysname is deployed with a trainable dummy gradient generator. After steps of training, the generator can produce dummy gradients to stimulate the neurons of a machine learning model to eliminate the memorization of the specific data. Also, we prove that the additional memorization elimination service of \sysname does not break the common procedure of federated learning or lower its security.

研究动机与目标

• 解决联邦学习中缺乏数据撤回机制的问题，该问题违反了如GDPR等数据保护法规。
• 缓解因用户数据不可逆记忆化而导致的数据提取风险。
• 使用户能够主动消除其私有数据在全局模型中的记忆化，而不会干扰联邦学习过程。
• 在引入可逆数据删除能力的同时，保持模型安全性和训练完整性。

提出的方法

• 在每位用户的客户端引入一个可训练的伪梯度生成器，该生成器学习生成能够抵消其私有数据记忆化的梯度。
• 在模型训练完成后，用户部署该生成器以生成合成梯度，刺激神经元遗忘特定数据模式。
• 生成的梯度被发送至中央服务器，并用于微调全局模型，从而有效降低用户数据的记忆化程度。
• 该方法被无缝集成到标准的联邦平均算法中，无需修改核心联邦学习流程，也未削弱安全性。
• 理论分析证实，记忆消除过程不会损害模型效用或隐私保证。
• 生成器通过端到端训练，使用一种损失函数，鼓励生成的梯度输出最小化模型对用户私有数据的激活。

实验结果

研究问题

• RQ1 用户是否能够在训练后主动从联邦模型中擦除其私有数据，而无需从全局模型中删除数据？
• RQ2 所提出的记忆消除机制是否在联邦训练过程中保持了模型效用和收敛性？
• RQ3 伪梯度生成器是否能有效抑制特定数据的记忆化，同时不引入新的隐私泄露？
• RQ4 所提出的方法是否与标准联邦学习协议及安全聚合方案兼容？

主要发现

• 所提出的\textsc{Learn to Forget}框架成功实现了用户从全局模型中消除其私有数据记忆化的能力。
• 该方法在保持模型准确率和收敛行为方面与标准联邦学习相当，未造成性能显著下降。
• 伪梯度生成器有效降低了模型对用户私有数据的激活，证明了目标记忆消除的有效性。
• 该框架未损害联邦学习的安全性，因为消除过程在不改变核心训练或聚合流程的前提下集成。
• 理论分析证实，该附加服务未削弱联邦学习的隐私保证。
• 该方法支持用户级别的数据撤回，符合GDPR等数据保护法规的要求。