[論文レビュー] Subspace based Federated Unlearning

Guanghao Li, Li Shen+4 more|arXiv (Cornell University)|Feb 24, 2023

Privacy-Preserving Technologies in Data被引用数 7

ひとこと要約

本稿では、サブスペースに基づくフェデレーテッドアンラーニング（SFU）を提案する。SFUは、歴史的勾配を保存せず、他のクライアントの入力表現の直交部分空間における勾配上昇により、サーバーがターゲットクライアントの寄与をグローバルモデルから削除できる、新しいフェデレーテッドアンラーニング手法である。SFUは最小限の精度低下と高い回復速度を実現し、MNIST、CIFAR10、CIFAR100の各データセットで既存手法を上回る最先端の性能を達成する。

ABSTRACT

Federated learning (FL) enables multiple clients to train a machine learning model collaboratively without exchanging their local data. Federated unlearning is an inverse FL process that aims to remove a specified target client's contribution in FL to satisfy the user's right to be forgotten. Most existing federated unlearning algorithms require the server to store the history of the parameter updates, which is not applicable in scenarios where the server storage resource is constrained. In this paper, we propose a simple-yet-effective subspace based federated unlearning method, dubbed SFU, that lets the global model perform gradient ascent in the orthogonal space of input gradient spaces formed by other clients to eliminate the target client's contribution without requiring additional storage. Specifically, the server first collects the gradients generated from the target client after performing gradient ascent, and the input representation matrix is computed locally by the remaining clients. We also design a differential privacy method to protect the privacy of the representation matrix. Then the server merges those representation matrices to get the input gradient subspace and updates the global model in the orthogonal subspace of the input gradient subspace to complete the forgetting task with minimal model performance degradation. Experiments on MNIST, CIFAR10, and CIFAR100 show that SFU outperforms several state-of-the-art (SOTA) federated unlearning algorithms by a large margin in various settings.

研究の動機と目的

• サーバーが歴史的パラメータ更新を保存できないリソース制約のある環境におけるフェデレーテッドアンラーニングの課題に対処すること。
• 再トレーニングや生データへのアクセスを必要とせず、ターゲットクライアントの寄与をグローバルモデルから削除できること。
• 他のクライアントの入力表現の直交部分空間に制限して勾配更新を行うことで、アンラーニング後のモデル精度を維持すること。
• クライアントからサーバーへの通信中に、微分散的メカニズムを用いて表現行列のプライバシーを保護すること。
• フェデレーテッドラーニング環境におけるさまざまなモデル成熟度とデータ非均質性に対しても、頑健な性能を発揮すること。

提案手法

• ターゲットクライアントはグローバルモデルに対して局所的勾配上昇を実行し、勾配のみをサーバーに送信する。
• 残りのクライアントは自身のデータから局所的表現行列を計算し、サーバーに送信して部分空間の構築に寄与する。
• サーバーは特異値分解（SVD）を用いて表現行列を統合し、入力勾配部分空間を構築する。
• サーバーはターゲットクライアントの勾配を、この部分空間の直交補空間に投影してアンラーニングを実行する。
• 各表現行列のベクトルを微分散的メカニズムで摂動させることで、通信中にクライアントのプライバシーを保護する。
• 更新されたグローバルモデルは、投影された勾配をモデルに適用することで得られ、性能低下を最小限に抑える。

Figure 1: The pipeline of the SFU.The whole process takes place after the FL model has been trained. The orange client represents the target client whose contribution is to be removed; The blue ones represent other clients. The boxes on the right of the image represent global model updates that happ

実験結果

リサーチクエスチョン

• RQ1 サーバーおよびクライアントに歴史的勾配を保存せずに、フェデレーテッドアンラーニングを達成できるか？
• RQ2 ターゲットクライアントの寄与を、モデル精度を保ちながら効果的にグローバルモデルから削除できるか？
• RQ3 他のクライアントの入力表現の直交部分空間に制限して勾配更新を行うことで、性能低下を最小限に抑えられるか？
• RQ4 本手法は、さまざまなデータ非均質性の度合いとモデル成熟度の下でも、どのように性能を発揮するか？
• RQ5 モデル回復速度と通信コストの観点から、アンラーニングプロセスは効率的に行えるか？

主な発見

• SFUは、MNIST、CIFAR10、CIFAR100の各データセットで最先端のフェデレーテッドアンラーニング手法を上回り、アンラーニング後の最終モデル精度が高く達成された。
• CNNアーキテクチャを用いたMNISTでは、SFUはアンラーニング後に99.29%の精度を達成し、UL（42.76%）とGA（92.33%）を著しく上回った。
• アンラーニングが初期トレーニング段階で行われても、SFUは元のFLモデルとほぼ同等の精度を維持し、モデル成熟度に対して高い頑健性を示した。
• アンラーニング後、SFUはわずか1回のFLトレーニングラウンドで高精度に回復したが、ベースライン手法は5回以上を要したため、回復効率が優れていた。
• SFUにおけるバックドア攻撃の成功率は常に低く抑えられ、アンラーニング後のモデルが元の分布に近く、敵対的回復に対して脆弱でないことを示した。
• データ非均質性が増加してもSFUの性能は安定しており、他の手法が顕著な精度低下を示すのとは対照的に、強い頑健性を示した。

(a) MNIST