[论文解读] Class-wise Federated Unlearning: Harnessing Active Forgetting with Teacher-Student Memory Generation

Yuyuan Li, Jiaming Zhang+2 more|arXiv (Cornell University)|Jul 7, 2023

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

该论文提出FedAF，一种新颖的联邦遗忘框架，通过使用学生-教师记忆生成的增量学习，模拟神经科学中的主动遗忘机制。该方法通过避免数据影响估计和历史更新存储，克服了现有方法的局限性，在MNIST、CIFAR10和CelebA数据集上实现了近乎完美的遗忘完整性（目标准确率为0%），同时对非目标数据的遗忘程度最小化。

ABSTRACT

Privacy concerns associated with machine learning models have driven research into machine unlearning, which aims to erase the memory of specific target training data from already trained models. This issue also arises in federated learning, creating the need to address the federated unlearning problem. However, federated unlearning remains a challenging task. On the one hand, current research primarily focuses on unlearning all data from a client, overlooking more fine-grained unlearning targets, e.g., class-wise and sample-wise removal. On the other hand, existing methods suffer from imprecise estimation of data influence and impose significant computational or storage burden. To address these issues, we propose a neuro-inspired federated unlearning framework based on active forgetting, which is independent of model architectures and suitable for fine-grained unlearning targets. Our framework distinguishes itself from existing methods by utilizing new memories to overwrite old ones. These new memories are generated through teacher-student learning. We further utilize refined elastic weight consolidation to mitigate catastrophic forgetting of non-target data. Extensive experiments on benchmark datasets demonstrate the efficiency and effectiveness of our method, achieving satisfactory unlearning completeness against backdoor attacks.

研究动机与目标

• 解决联邦遗忘中的挑战，现有方法因数据影响估计不精确和计算成本高而受限。
• 克服联邦设置下精确遗忘的局限性，该方法因分片-聚合框架而缺乏时间效率。
• 开发一种与模型无关的联邦遗忘方法，可无缝集成到联邦学习中，无需存储历史更新。
• 在保护非目标数据模型效用的同时，确保高遗忘完整性，尤其在GDPR和CCPA等隐私法规下。
• 通过受神经科学启发的机制，实现目标数据有效遗忘与非目标数据最小灾难性遗忘之间的平衡。

提出的方法

• 提出一种学生-教师蒸馏框架，客户端模型（学生）从随机初始化的教师模型学习，以覆盖旧的记忆。
• 使用增量学习将遗忘视为顺序任务，实现在不发生灾难性遗忘的情况下持续知识更新。
• 应用弹性权重整合（EWC）约束非目标数据上的权重变化，以保持非目标类别上的模型性能。
• 引入权衡超参数λ，以平衡遗忘完整性（低目标准确率）与非目标数据保留（高非目标准确率）。
• 通过直接覆盖记忆模式并生成新记忆，消除对数据影响估计或从头开始微调的需求。
• 使用合成标签（均匀、随机、教师、去偏教师）验证不同标签配置下遗忘过程的鲁棒性。

实验结果

研究问题

• RQ1 联邦遗忘方法是否能在不依赖数据影响估计或从头微调的情况下，实现对目标数据影响的高完整性移除？
• RQ2 在学生-教师记忆生成的背景下，增量学习在遗忘过程中是否能有效防止非目标数据的灾难性遗忘？
• RQ3 遗忘完整性与非目标数据上模型效用之间的最优权衡是什么？超参数λ如何影响这一平衡？
• RQ4 当使用虚假标签进行遗忘时，该方法在标签重叠或模糊场景下是否仍保持鲁棒性？
• RQ5 该方法是否能在多样化的基准数据集上实现目标数据接近零的准确率，同时保持非目标数据的高准确率？

主要发现

• FedAF在所有数据集（MNIST、CIFAR10、CelebA）上均实现接近0%的目标数据准确率，证明了近乎完美的遗忘完整性。
• 当λ = 10时，该方法在非目标数据上保持高准确率（例如CelebA上>95%，MNIST上>98%），表明灾难性遗忘程度极低。
• 使用教师标签时，目标数据准确率低于均匀或随机标签，证实了记忆覆盖机制的有效性。
• 对教师标签进行去偏处理可提升非目标数据上的性能，表明标签质量影响遗忘的鲁棒性。
• 使用虚假标签的实验表明，该方法对标签操纵具有鲁棒性，各类标签下非目标数据准确率均保持稳定高位。
• 该框架在计算开销极小的情况下实现优异性能，因其避免了昂贵的数据影响估计，且无需存储历史模型更新。