[논문 리뷰] SIFU: Sequential Informed Federated Unlearning for Efficient and Provable Client Unlearning in Federated Optimization

Yann Fraboni, Martin Van Waerebeke외 4명|arXiv (Cornell University)|2022. 11. 21.

Stochastic Gradient Optimization Techniques인용 수 4

한 줄 요약

이 논문은 SIFU를 제안하며, FL 기록에서 최적의 재초기화 지점을 식별하고 클라이언트별 랜덤화된 편향을 적용하여, 헤시안 행렬 계산이나 클라이언트 데이터 공유 없이도 효율적이고 증명 가능한 클라이언트 기여도의 언러닝을 가능하게 하는 새로운 피어드러닝 언러닝 프레임워크를 제시한다. 재학습 및 최신 기술보다 빠른 수렴 속도를 기록하면서도, 강한 언러닝 보장을 달성하며, 볼록 및 비볼록 설정 모두에 일반화된다.

ABSTRACT

Machine Unlearning (MU) is an increasingly important topic in machine learning safety, aiming at removing the contribution of a given data point from a training procedure. Federated Unlearning (FU) consists in extending MU to unlearn a given client's contribution from a federated training routine. While several FU methods have been proposed, we currently lack a general approach providing formal unlearning guarantees to the FedAvg routine, while ensuring scalability and generalization beyond the convex assumption on the clients' loss functions. We aim at filling this gap by proposing SIFU (Sequential Informed Federated Unlearning), a new FU method applying to both convex and non-convex optimization regimes. SIFU naturally applies to FedAvg without additional computational cost for the clients and provides formal guarantees on the quality of the unlearning task. We provide a theoretical analysis of the unlearning properties of SIFU, and practically demonstrate its effectiveness as compared to a panel of unlearning methods from the state-of-the-art.

연구 동기 및 목표

• 볼록 손실 함수를 초월하는 증명 가능하고 확장 가능한 피어드러닝 언러닝 방법의 부족을 해결하기 위해.
• 클라이언트 데이터 접근이나 비용이 많이 드는 헤시안 행렬 계산 없이도 클라이언트 기여도의 언러닝을 가능하게 하기 위해.
• 다수의 클라이언트로부터 연속적인 언러닝 요청이 존재하는 상황에서도 공식적인 언러닝 보장을 제공하기 위해.
• 전체 재학습 대비 언러닝 비용을 줄이면서도 언러닝된 클라이언트에 대한 모델 정확도를 유지하기 위해.
• 강한 볼록성 또는 기울기 근사와 같은 강한 가정 없이도 클라이언트 기여도를 제한하는 이론을 개발하기 위해.

제안 방법

• SIFU는 훈련 라운드 전반에 걸쳐 클라이언트 기여도 노름을 추적하여 최적의 재초기화 타이밍을 식별한다.
• 언러닝 요청이 들어오면 서버는 식별된 타이밍에서의 중간 전역 모델을 복구하여 재학습 오버헤드를 최소화한다.
• 선택된 모델에 클라이언트별 노이즈가 포함된 랜덤화된 편향 메커니즘이 적용되어 증명 가능한 언러닝 보장을 확보한다.
• SIFU는 IFU를 확장하여 순차적 언러닝을 처리함으로써, 다수의 요청에 걸쳐도 언러닝 보장을 유지한다.
• 추가 계산이나 통신 없이 기울기 노름을 사용해 클라이언트 기여도를 정량화함으로써 확장성을 확보한다.
• 이론적 분석은 강한 볼록성, 헤시안 행렬 계산, 기울기 근사와 같은 가정을 피하고 부드러움 가정만을 기반으로 한다.

실험 결과

연구 질문

• RQ1 볼록 및 비볼록 최적화 환경 모두에서 증명 가능한 보장을 갖춘 피어드러닝 언러닝이 가능할 수 있는가?
• RQ2 클라이언트 데이터 접근이나 전체 재학습 없이도 언러닝을 효율적으로 수행할 수 있는가?
• RQ3 언러닝 비용을 최소화하면서도 언러닝 정확성을 보장하는 최적의 FL 기록 재초기화 지점은 무엇인가?
• RQ4 다수의 클라이언트로부터의 순차적 언러닝 요청을 처리하면서도 언러닝 보장을 유지할 수 있는가?
• RQ5 추가 계산이나 통신 없이도 클라이언트 기여도를 효율적으로 정량화할 수 있는가?

주요 결과

• SIFU는 언러닝된 클라이언트의 모델 정확도 측면에서 전체 재학습(Scratch)과 유사한 언러닝 성능을 달성하면서도, 훨씬 적은 집계 라운드를 요구한다.
• SIFU는 전체 재학습 대비 약 50퍼센트 수준의 언러닝 비용을 절감하여, 유사한 언러닝 효과를 더 빠른 수렴 속도로 달성한다.
• SIFU는 피닝튜닝, FedAccum 및 DP 기반 접근법보다 언러닝 정확도와 수렴 속도에서 모두 뛰어난 성능을 기록한다.
• 노이즈 편향의 진폭 σ가 작을 경우 SIFU는 Scratch(초기 모델에서 재학습)와 유사하게 행동하지만, σ가 클 경우 Last(최종 모델에서 언러닝)와 유사하게 행동한다.
• 워터마킹 기반 검증을 통해 SIFU와 Scratch가 거의 동일한 언러닝 성능을 달성함을 확인하였으며, 제안된 방법의 효과성을 검증한다.
• SIFU는 순차적 언러닝 요청 상황에서도 강력한 언러닝 보장을 유지하며, 이론적 기반은 강한 가정 없이 부드러움 가정만을 사용한다.