[论文解读] SalUn: Empowering Machine Unlearning via Gradient-based Weight Saliency in Both Image Classification and Generation

Chongyu Fan, Jiancheng Liu+4 more|arXiv (Cornell University)|Oct 19, 2023

COVID-19 diagnosis using AI被引用 5

一句话总结

SalUn 提出了一种新颖的机器遗忘框架，通过基于梯度的权重显著性，选择性地针对并更新最具影响力的模型权重，显著提升了图像分类和文本到图像生成任务中遗忘的准确性和稳定性。该方法在从扩散模型中移除有害概念生成方面实现了近乎完美的遗忘准确率（99.74%），优于最先进的基线方法，如 Erased Stable Diffusion 和 Forget-Me-Not。

ABSTRACT

With evolving data regulations, machine unlearning (MU) has become an important tool for fostering trust and safety in today's AI models. However, existing MU methods focusing on data and/or weight perspectives often suffer limitations in unlearning accuracy, stability, and cross-domain applicability. To address these challenges, we introduce the concept of 'weight saliency' for MU, drawing parallels with input saliency in model explanation. This innovation directs MU's attention toward specific model weights rather than the entire model, improving effectiveness and efficiency. The resultant method that we call saliency unlearning (SalUn) narrows the performance gap with 'exact' unlearning (model retraining from scratch after removing the forgetting data points). To the best of our knowledge, SalUn is the first principled MU approach that can effectively erase the influence of forgetting data, classes, or concepts in both image classification and generation tasks. As highlighted below, For example, SalUn yields a stability advantage in high-variance random data forgetting, e.g., with a 0.2% gap compared to exact unlearning on the CIFAR-10 dataset. Moreover, in preventing conditional diffusion models from generating harmful images, SalUn achieves nearly 100% unlearning accuracy, outperforming current state-of-the-art baselines like Erased Stable Diffusion and Forget-Me-Not. Codes are available at https://github.com/OPTML-Group/Unlearn-Saliency. (WARNING: This paper contains model outputs that may be offensive in nature.)

研究动机与目标

• 解决现有近似机器遗忘方法在稳定性与跨领域适用性方面的局限性。
• 开发一种适用于图像分类与生成模型的系统性遗忘方法。
• 缩小近似遗忘与精确微调（即从头开始的完整微调）之间的性能差距。
• 实现对扩散模型中特定数据、类别或有害概念的有效遗忘。
• 提出并验证‘权重显著性’作为机器遗忘新范式的概念。

提出的方法

• 该方法引入了‘权重显著性’——一种衡量每个模型权重对遗忘数据点预测贡献程度的指标，通过基于梯度的分析计算得出。
• SalUn 仅识别并更新与遗忘数据相关的最具显著性的权重，而非对整个模型进行再训练。
• 它采用软阈值或硬阈值机制，根据显著性分数选择权重，实现高效且精准的遗忘。
• 该方法适用于基于分类器和无分类器的扩散模型，通过在修改后的损失函数上进行微调来实现遗忘。
• 该方法与多种遗忘基线兼容，并通过聚焦高影响力权重提升了其性能。
• 它使用基于梯度的影响估计来计算显著性分数，无需完整再训练或复杂的认证过程。

实验结果

研究问题

• RQ1 权重显著性能否作为一项系统性机制，用于提升分类与生成任务中的机器遗忘效果？
• RQ2 与精确遗忘（从头开始微调）相比，SalUn 在性能与稳定性方面表现如何？
• RQ3 SalUn 能否在文本到图像扩散模型中有效遗忘有害或敏感概念？
• RQ4 权重显著性是否能降低现有近似遗忘方法中观察到的性能方差？
• RQ5 SalUn 是否适用于不同遗忘场景，包括随机数据遗忘与类别特定擦除？

主要发现

• 在高方差随机遗忘设置下，SalUn 在 CIFAR-10 上将与精确遗忘的性能差距缩小至仅 0.2%，表现出极强的稳定性。
• 在条件扩散模型中，SalUn 在类别条件生成任务中实现了 97.95% 的遗忘准确率，优于 Erased Stable Diffusion 和 Forget-Me-Not。
• 在文本到图像生成中的概念擦除任务中，SalUn 在 NSFW 概念提示下实现了 99.74% 的遗忘准确率，显著优于基线方法。
• 该方法在多个随机种子和遗忘类别下均保持高遗忘准确率，表明其具有鲁棒性且方差低。
• 在扩散模型中，SalUn 对‘猫’类别的遗忘准确率达到 39.41%，残留影响仅为 0.27%，显示出强大的概念擦除能力。
• 消融研究证实，权重显著性至关重要：移除该机制后，性能相比完整版 SalUn 下降超过 20%。