[論文レビュー] SalUn: Empowering Machine Unlearning via Gradient-based Weight Saliency in Both Image Classification and Generation

Chongyu Fan, Jiancheng Liu+4 more|arXiv (Cornell University)|Oct 19, 2023

COVID-19 diagnosis using AI被引用数 5

ひとこと要約

SalUnは、勾配に基づく重み感受性を活用して、最も影響力のあるモデル重みにのみ焦点を当てて更新する、画期的な機械的忘却フレームワークを導入している。この手法は、画像分類およびテキスト対画像生成の両分野において、忘却精度と安定性を顕著に向上させている。拡散モデルから有害なコンセプト生成を除去する際、99.74%というほぼ完璧に近い忘却精度を達成しており、Erased Stable Diffusion や Forget-Me-Not といった最先端のベースラインを上回っている。

ABSTRACT

With evolving data regulations, machine unlearning (MU) has become an important tool for fostering trust and safety in today's AI models. However, existing MU methods focusing on data and/or weight perspectives often suffer limitations in unlearning accuracy, stability, and cross-domain applicability. To address these challenges, we introduce the concept of 'weight saliency' for MU, drawing parallels with input saliency in model explanation. This innovation directs MU's attention toward specific model weights rather than the entire model, improving effectiveness and efficiency. The resultant method that we call saliency unlearning (SalUn) narrows the performance gap with 'exact' unlearning (model retraining from scratch after removing the forgetting data points). To the best of our knowledge, SalUn is the first principled MU approach that can effectively erase the influence of forgetting data, classes, or concepts in both image classification and generation tasks. As highlighted below, For example, SalUn yields a stability advantage in high-variance random data forgetting, e.g., with a 0.2% gap compared to exact unlearning on the CIFAR-10 dataset. Moreover, in preventing conditional diffusion models from generating harmful images, SalUn achieves nearly 100% unlearning accuracy, outperforming current state-of-the-art baselines like Erased Stable Diffusion and Forget-Me-Not. Codes are available at https://github.com/OPTML-Group/Unlearn-Saliency. (WARNING: This paper contains model outputs that may be offensive in nature.)

研究の動機と目的

• 既存の近似機械的忘却手法における不安定さと、ドメイン間での適用可能性の制限を解消すること。
• 画像分類および生成モデルの両方に対して有効な、原理的かつ整合性のある忘却アプローチの開発。
• 近似忘却と正確な再トレーニング（すなわち、完全に再初期化したファインチューニング）との間の性能差を縮小すること。
• 拡散モデルにおける特定のデータ、クラス、または有害なコンセプトの効果的かつ正確な忘却を可能にすること。
• 「重み感受性」という概念を新たな機械的忘却のパラダイムとして導入し、実証すること。

提案手法

• 本手法は「重み感受性」を導入する。これは、各モデル重みが忘れさせたいデータポイントの予測にどれほど寄与しているかを勾配に基づく解析によって測定する指標である。
• SalUnは、全モデルの再トレーニングではなく、忘れさせたいデータに関連する最も感受性の高い重みのみを特定・更新する。
• 感受性スコアに基づいて、ソフトまたはハードスレッショルド処理を用いて重みを選択することで、効率的かつ的確な忘却を実現する。
• このアプローチは、分類器あり型および分類器なし型の拡散モデルに適用可能であり、修正された損失関数に基づくファインチューニングによって忘却が実行される。
• 本手法はさまざまな忘却ベースラインと互換性があり、影響力の高い重みに焦点を当てることでそれらの性能を向上させる。
• 完全な再トレーニングや複雑な認証を必要とせず、勾配に基づく影響力推定を用いて感受性スコアを計算する。

実験結果

リサーチクエスチョン

• RQ1 重み感受性は、分類および生成タスクの両方における機械的忘却の改善に、原理的かつ有効なメカニズムとして利用可能か？
• RQ2 正確な忘却（再トレーニングから再初期化）と比較して、SalUnの性能と安定性はいかがなものか？
• RQ3 SalUnは、テキスト対画像拡散モデルにおける有害または感受性の高いコンセプトの忘却に、効果的に対応できるか？
• RQ4 重み感受性は、既存の近似忘却手法で見られる性能のばらつきを低減できるか？
• RQ5 SalUnは、ランダムなデータの忘却やクラス固有の消去といった、さまざまな忘れのシナリオに適応可能か？

主な発見

• CIFAR-10において、高いばらつきを示すランダムな忘れの条件下でも、SalUnは正確な忘却との性能差をわずか0.2%にまで縮小し、優れた安定性を示した。
• 条件付き拡散モデルでは、クラス条件付き生成において97.95%の忘却精度を達成し、Erased Stable Diffusion や Forget-Me-Not を上回った。
• テキスト対画像生成におけるコンセプト消去では、NSFWコンセプトプロンプトに対して99.74%の忘却精度を達成し、ベースラインを著しく上回った。
• 複数のランダムシードや忘れ対象のクラスにわたり、高い忘却精度を維持しており、ロバストネスと低ばらつきを示している。
• 拡散モデルにおける「猫」クラスでは、39.41%の忘却精度を達成し、残存影響はたった0.27%にとどまり、強力なコンセプト消去が実現した。
• アブレーションスタディの結果、重み感受性が極めて重要であることが確認された。感受性を除去すると、完全なSalUn手法と比較して性能が20%以上低下した。