[論文レビュー] Class-wise Federated Unlearning: Harnessing Active Forgetting with Teacher-Student Memory Generation

Yuyuan Li, Jiaming Zhang+2 more|arXiv (Cornell University)|Jul 7, 2023

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

本稿では、神経心理学における能動的忘却を模倣するため、学生・教師メモリ生成を用いた段階的学習を用いる、新しいフェデレーテッドアンラーニングフレームワークであるFedAFを提案する。既存手法の限界を克服するため、データインフルエンス推定や歴史的更新の保存を回避し、MNIST、CIFAR10、CelebAデータセットで検証された結果、非ターゲットデータの忘却を最小限に抑えつつ、ほぼ完璧なアンラーニング完全性（0%のターゲット正答率）を達成した。

ABSTRACT

Privacy concerns associated with machine learning models have driven research into machine unlearning, which aims to erase the memory of specific target training data from already trained models. This issue also arises in federated learning, creating the need to address the federated unlearning problem. However, federated unlearning remains a challenging task. On the one hand, current research primarily focuses on unlearning all data from a client, overlooking more fine-grained unlearning targets, e.g., class-wise and sample-wise removal. On the other hand, existing methods suffer from imprecise estimation of data influence and impose significant computational or storage burden. To address these issues, we propose a neuro-inspired federated unlearning framework based on active forgetting, which is independent of model architectures and suitable for fine-grained unlearning targets. Our framework distinguishes itself from existing methods by utilizing new memories to overwrite old ones. These new memories are generated through teacher-student learning. We further utilize refined elastic weight consolidation to mitigate catastrophic forgetting of non-target data. Extensive experiments on benchmark datasets demonstrate the efficiency and effectiveness of our method, achieving satisfactory unlearning completeness against backdoor attacks.

研究の動機と目的

• 既存手法がデータインフルエンス推定の不正確さと高い計算コストに直面するフェデレーテッドアンラーニングの課題に対処すること。
• パーティション集約フレームワークに起因する時間効率の欠如により、フェデレーテッド環境における正確なアンラーニングに課題があることを克服すること。
• 歴史的更新の保存を必要とせず、フェデレーテッド学習にスムーズに統合できるモデルに依存しないフェデレーテッドアンラーニング手法を開発すること。
• GDPR や CCPA などのプライバシー規制下でも、非ターゲットデータにおけるモデルの有用性を保ちながら、高いアンラーニング完全性を確保すること。
• 神経科学的インスピレーションを得たメカニズムにより、ターゲットデータの効果的なアンラーニングと非ターゲットデータの最小限の壊滅的忘却のバランスを取ること。

提案手法

• クライアントモデル（学生）が、ランダムに初期化された教師モデルから学習することで、古い記憶を上書きする学生・教師蒸留フレームワークを提案する。
• 段階的学習を用いてアンラーニングを逐次的タスクとして扱い、壊滅的忘却を伴わずに継続的な知識の更新を可能にする。
• 非ターゲットデータの重み変更を制約するため、Elastic Weight Consolidation (EWC) を適用し、非ターゲットクラスにおけるモデル性能を保持する。
• アンラーニング完全性（低ターゲット正答率）と非ターゲットデータ保持（高非ターゲット正答率）のバランスを取るために、トレードオフハイパーパrameter λ を導入する。
• 新しいメモリ生成による記憶パターンの直接的上書きにより、データインフルエンス推定や再訓練の必要性を排除する。
• 異なるラベル設定下でのアンラーニングプロセスのロバストネスを検証するため、合成ラベル（一様、ランダム、教師、バイアス除去教師）を用いる。

実験結果

リサーチクエスチョン

• RQ1 データインフルエンス推定や再訓練に依存せずに、ターゲットデータの影響をほぼ完全に削除できるフェデレーテッドアンラーニング手法は実現可能か？
• RQ2 学生・教師メモリ生成を伴う段階的学習は、アンラーニング中に非ターゲットデータの壊滅的忘却をどれほど効果的に防げるか？
• RQ3 アンラーニング完全性と非ターゲットデータにおけるモデル有用性の最適なトレードオフは何か？また、ハイパーパrameter λ はこのバランスにどのように影響するか？
• RQ4 フェイクラベルがアンラーニング中に使用された場合のような、ラベルの重複や曖昧な状況下でも、本手法はロバストであるか？
• RQ5 本手法は、多様なベンチマークデータセットでターゲットデータの正答率をほぼゼロに抑えつつ、非ターゲットデータの正答率を高く維持できるか？

主な発見

• FedAFは、すべてのデータセット（MNIST、CIFAR10、CelebA）でターゲットデータの正答率がほぼ0%に達し、ほぼ完全なアンラーニング完全性を示した。
• λ = 10 の場合、非ターゲットデータ正答率が高く維持された（例：CelebAで>95%、MNISTで>98%）、壊滅的忘却が最小限であることを示した。
• 教師ラベルを用いることで、一様またはランダムラベルよりもターゲットデータ正答率が低く抑えられ、記憶上書き機構の有効性が確認された。
• 教師ラベルのバイアス除去により、非ターゲットデータのパフォーマンスが向上し、ラベル品質がアンラーニングのロバストネスに影響することを示した。
• フェイクラベルを用いた実験により、本手法がラベル操作に対してロバストであることが確認され、すべてのラベルタイプで非ターゲットデータ正答率が一貫して高く維持された。
• データインフルエンス推定のコストがなく、歴史的モデル更新の保存も不要なことから、計算オーバーヘッドが最小限に抑えられ、優れた性能を発揮した。