[論文レビュー] SIFU: Sequential Informed Federated Unlearning for Efficient and Provable Client Unlearning in Federated Optimization

Yann Fraboni, Martin Van Waerebeke+4 more|arXiv (Cornell University)|Nov 21, 2022

Stochastic Gradient Optimization Techniques被引用数 4

ひとこと要約

本稿では、FL履歴から最適な再初期化点を同定し、クライアント固有のランダム化ノイズを適用することで、クライアント寄与の効率的かつ証明可能なフェデレーテッド・アンラーニングを可能にする新規フレームワークSIFUを提案する。ヘシアン行列の計算やクライアントデータの共有を必要とせず、収束速度において再訓練および最先端手法を上回り、凸および非凸設定の両方へ一般化可能である。

ABSTRACT

Machine Unlearning (MU) is an increasingly important topic in machine learning safety, aiming at removing the contribution of a given data point from a training procedure. Federated Unlearning (FU) consists in extending MU to unlearn a given client's contribution from a federated training routine. While several FU methods have been proposed, we currently lack a general approach providing formal unlearning guarantees to the FedAvg routine, while ensuring scalability and generalization beyond the convex assumption on the clients' loss functions. We aim at filling this gap by proposing SIFU (Sequential Informed Federated Unlearning), a new FU method applying to both convex and non-convex optimization regimes. SIFU naturally applies to FedAvg without additional computational cost for the clients and provides formal guarantees on the quality of the unlearning task. We provide a theoretical analysis of the unlearning properties of SIFU, and practically demonstrate its effectiveness as compared to a panel of unlearning methods from the state-of-the-art.

研究の動機と目的

• 凸損失関数を超える範囲で、証明可能でスケーラブルなフェデレーテッド・アンラーニング手法が不足している問題に対処すること。
• クライアントデータへのアクセスや高コストなヘシアン行列の計算を必要とせずに、クライアント寄与のアンラーニングを可能にすること。
• 複数クライアントからの逐次的アンラーニング要求が存在する状況でも、形式的なアンラーニング保証を提供すること。
• 完全な再訓練よりもアンラーニングコストを低減しつつ、アンラーニング対象クライアントにおけるモデル精度を維持すること。
• 強い凸性や勾配近似といった強い仮定を必要としない、FLにおけるクライアント寄与の境界を定める理論を構築すること。

提案手法

• SIFUは、トレーニングラウンドにわたるクライアント寄与のノルムを追跡することで、再初期化に最適なFLイテレーションを特定する。
• アンラーニング要求が発生すると、サーバーは特定されたイテレーションからの中間グローバルモデルを取得し、再訓練のオーバーヘッドを最小限に抑える。
• 選択されたモデルにクライアント固有のノイズを用いたランダム化ノイズ機構を適用することで、証明可能なアンラーニング保証を確保する。
• IFUを拡張して逐次的アンラーニングを処理するSIFUにより、複数回の要求に対してもアンラーニング保証を維持する。
• 追加の計算や通信を必要とせず、勾配ノルムを用いてクライアント寄与を定量化することで、スケーラビリティを実現する。
• 理論的分析は滑らかさ仮定のみに依存し、強い凸性、ヘシアン行列の計算、勾配近似を回避する。

実験結果

リサーチクエスチョン

• RQ1 凸および非凸最適化領域の両方において、証明可能な保証を伴うフェデレーテッド・アンラーニングが達成可能か？
• RQ2 完全な再訓練やクライアントデータへのアクセスなしに、どのように効率的なアンラーニングを実現できるか？
• RQ3 アンラーニングコストを最小限に抑えつつアンラーニングの正しさを保証するための、FL履歴における最適な再初期化点は何か？
• RQ4 複数クライアントからの逐次的アンラーニング要求を処理しながら、アンラーニング保証を維持するにはどうすればよいか？
• RQ5 追加の計算や通信を必要とせず、クライアント寄与を効率的に定量化できるか？

主な発見

• SIFUは、アンラーニング対象クライアントにおけるモデル精度の観点で、完全な再訓練（Scratch）と同等のアンラーニング性能を達成し、集約ラウンド数を著しく削減した。
• SIFUは完全な再訓練と比較して、アンラーニングコストを約半減させ、類似したアンラーニング効果をより速い収束速度で達成した。
• 微調整（Fine-Tuning）、FedAccum、およびDPベースの手法と比較して、両方のアンラーニング精度と収束速度で優れた性能を示した。
• ノイズ摂動の振幅σが小さい場合、SIFUはScratch（初期モデルからの再訓練）と同様の挙動を示し、σが大きいとLast（最終モデルからのアンラーニング）と同様の挙動を示した。
• ウォーターマーキングベースの検証により、SIFUとScratchがほぼ同一のアンラーニング性能を達成していることが確認され、提案手法の有効性が裏付けられた。
• SIFUは、滑らかさ仮定のみに依拠する理論的基盤を有しており、強い仮定を排除することで、逐次的アンラーニング要求に対しても強いアンラーニング保証を維持した。