[论文解读] Few-Shot Unlearning by Model Inversion

Young-Sik Yoon, Jinhwan Nam+4 more|arXiv (Cornell University)|May 31, 2022

Advanced Neural Network Applications被引用 4

一句话总结

本文提出了一种少样本遗忘学习框架，通过模型反演从有限的目标样本和训练好的模型中重建代理训练数据，即使在无法访问完整训练数据的情况下也能实现有效的遗忘。该方法在标准遗忘和少样本遗忘任务中均优于当前最先进方法，在隐私保护、误标纠正和子类遗忘方面表现更优，通过针对特定遗忘意图设计的再学习策略显式建模遗忘目标。

ABSTRACT

We consider a practical scenario of machine unlearning to erase a target dataset, which causes unexpected behavior from the trained model. The target dataset is often assumed to be fully identifiable in a standard unlearning scenario. Such a flawless identification, however, is almost impossible if the training dataset is inaccessible at the time of unlearning. Unlike previous approaches requiring a complete set of targets, we consider few-shot unlearning scenario when only a few samples of target data are available. To this end, we formulate the few-shot unlearning problem specifying intentions behind the unlearning request (e.g., purely unlearning, mislabel correction, privacy protection), and we devise a straightforward framework that (i) retrieves a proxy of the training data via model inversion fully exploiting information available in the context of unlearning; (ii) adjusts the proxy according to the unlearning intention; and (iii) updates the model with the adjusted proxy. We demonstrate that our method using only a subset of target data can outperform the state-of-the-art unlearning methods even with a complete indication of target data.

研究动机与目标

• 解决仅能访问目标数据少数样本而非完整数据集时机器遗忘的实际挑战。
• 将遗忘建模为一项考虑特定意图的任务，如隐私保护、误标纠正或标准数据删除，而不仅限于简单数据移除。
• 开发一个统一框架，通过模型反演检索代理训练数据，根据遗忘意图过滤数据，并相应地微调模型。
• 实现在无完整训练数据访问条件下对特定子类（如MNIST中的仅'7'）进行遗忘，这是先前方法无法实现的。
• 证明显式建模遗忘意图可优于通用遗忘方法，尤其在少样本设置下表现更优。

提出的方法

• 执行模型反演，利用目标样本、训练好的模型和领域先验（如数据分布、增强模式）生成原始训练数据的代理。
• 在反演过程中引入一种新型损失项 ℓ_tar，优先重建目标类样本，即使在无批归一化层的情况下也能提升重建保真度。
• 应用拐点检测自动确定阈值，基于MMD得分将反演得到的代理数据划分为“已擦除”（D_e）和“已保留”（D_r）子集。
• 通过根据遗忘意图对增强后的目标集重新标记，设计多种再学习策略——Ours_std、Ours_unt、Ours_neg、Ours_cor，分别对应标准遗忘、隐私保护、负采样或误标纠正。
• 使用过滤后的代理数据进行微调，确保满足遗忘目标的同时保留对非目标数据的泛化能力。
• 在反演和再学习过程中利用数据增强，提升鲁棒性和泛化能力，尤其在少样本场景下表现更优。

实验结果

研究问题

• RQ1 当仅能访问目标数据的少数样本而非完整数据集时，能否实现有效的遗忘？
• RQ2 如何在一个统一框架中针对不同意图（如隐私保护、误标纠正或标准数据删除）实现定制化遗忘？
• RQ3 模型反演能否被有效适配到遗忘场景中，以从有限信息中重建合理的代理训练数据？
• RQ4 能否在不访问完整训练数据的情况下，实现对特定子类（如MNIST中的仅'7'）的遗忘？
• RQ5 与通用遗忘方法相比，显式建模遗忘意图如何提升性能？

主要发现

• 所提方法Ours_std在保留集（D_r）上达到99.7%准确率，在擦除集（D_e）上达到82.5%，优于先前SOTA方法。
• 在隐私保护场景（Ours_unt）中，该方法将成员推理攻击的成功率降低至4.2% ± 1.0，显著低于基线方法的23.8%。
• 在误标纠正场景（Ours_cor）中，该方法在擦除集（D_e）上实现100.0%准确率，有效纠正了噪声MNIST设置中被错误标记的'7'。
• 消融研究证实，新型ℓ_tar损失对性能贡献最大，优于传统损失如ℓ_bn和ℓ_aug，尤其在无批归一化时表现更优。
• 该方法成功实现了对MNIST中特定子类（如'7'）的遗忘，这是先前缺乏完整训练数据访问权限的方法无法实现的能力。
• 即使仅使用3%的目标数据，该方法仍保持强劲性能（如Ours_neg在D_r上达100.0%准确率，在D_e上为18.8% ± 2.5），证明其在少样本设置下的鲁棒性。