[논문 리뷰] Fast-FedUL: A Training-Free Federated Unlearning with Provable Skew Resilience

Thanh Trung Huynh, Trong Bang Nguyen외 5명|arXiv (Cornell University)|2024. 05. 28.

Brain Tumor Detection and Classification인용 수 4

한 줄 요약

Fast-FedUL은 훈련을 필요로 하지 않는 분산 미학습 방법으로, 역사적 기울기 역행을 통해 목표 클라이언트의 영향을 글로벌 FL 모델에서 분리함으로써 증명 가능한 기울기 왜곡에 대한 저항성을 확보한다. 재훈련 대비 미학습 시간을 1000배 감소시키며, 0.01%의 성공률을 가진 백도어 공격을 완전히 제거하면서도 주 작업 정확도를 98% 유지한다.

ABSTRACT

Federated learning (FL) has recently emerged as a compelling machine learning paradigm, prioritizing the protection of privacy for training data. The increasing demand to address issues such as ``the right to be forgotten'' and combat data poisoning attacks highlights the importance of techniques, known as extit{unlearning}, which facilitate the removal of specific training data from trained FL models. Despite numerous unlearning methods proposed for centralized learning, they often prove inapplicable to FL due to fundamental differences in the operation of the two learning paradigms. Consequently, unlearning in FL remains in its early stages, presenting several challenges. Many existing unlearning solutions in FL require a costly retraining process, which can be burdensome for clients. Moreover, these methods are primarily validated through experiments, lacking theoretical assurances. In this study, we introduce Fast-FedUL, a tailored unlearning method for FL, which eliminates the need for retraining entirely. Through meticulous analysis of the target client's influence on the global model in each round, we develop an algorithm to systematically remove the impact of the target client from the trained model. In addition to presenting empirical findings, we offer a theoretical analysis delineating the upper bound of our unlearned model and the exact retrained model (the one obtained through retraining using untargeted clients). Experimental results with backdoor attack scenarios indicate that Fast-FedUL effectively removes almost all traces of the target client, while retaining the knowledge of untargeted clients (obtaining a high accuracy of up to 98\% on the main task). Significantly, Fast-FedUL attains the lowest time complexity, providing a speed that is 1000 times faster than retraining. Our source code is publicly available at \url{https://github.com/thanhtrunghuynh93/fastFedUL}.

연구 동기 및 목표

• 재훈련이 필요 없는 효율적인 분산 미학습 방법이 부족한 문제를 해결하여, 클라이언트 전용 데이터를 재훈련 없이 제거할 수 있도록 한다.
• 기존의 미학습 방법이 높은 비용의 재훈련에 의존하거나 이론적 보장을 갖추지 못한 한계를 극복한다.
• 비IIDs 데이터 환경에서 기울기 반전으로 인한 기울기 왜곡을 완화함으로써, 미학습 후 모델의 유효성을 유지한다.
• 미학습 모델과 재훈련 모델 간의 차이를 이론적으로 한계를 두어 신뢰성을 확보한다.
• 필수적인 역행 기록만 선택하여 저장 및 계산 비용을 최적화함으로써 메모리 오버헤드를 감소시킨다.

제안 방법

• 재훈련 없이도 목표 클라이언트의 역사적 업데이트가 글로벌 모델에 미치는 영향을 체계적으로 제거하는 기울기 반전 메커니즘을 제안한다.
• 저장 및 계산 비용을 최소화하기 위해 기여도에 따라 업데이트를 우선순위 정렬하는 클라이언트 샘플링 전략을 도입한다.
• 기울기 반전으로 인한 모델 기울기 왜곡을 이론적으로 한계를 두어 정확한 유효성 회복을 가능하게 하는 이론적 프레임워크를 개발한다.
• 모델 유사도를 정량화하기 위해 각도 기반 매개변수 이탈 분석을 사용하여, 미학습 모델과 재훈련 모델 간의 유사성을 확보함으로써 강건성을 확보한다.
• 다양한 라운드 동안 기울기 왜곡을 누적하여, 미학습 후 모델 유효성을 복구하는 기울기 저항성 있는 추정 기법을 적용한다.
• 명시적인 디스틸레이션 단계 없이도 기울기 인식 보정을 통해 지식 디스틸레이션 원리를 암묵적으로 적용한다.

실험 결과

연구 질문

• RQ1 재훈련 없이도 클라이언트의 영향을 제거하면서, 오염되지 않은 클라이언트에 대한 모델 유효성을 유지할 수 있는가?
• RQ2 비IIDs 데이터 환경에서 기울기 반전으로 인한 기울기 왜곡은 어떻게 이론적으로 한계를 두고 완화할 수 있는가?
• RQ3 클라이언트 샘플링 전략은 미학습 효율성과 모델 정확도에 어떤 영향을 미치는가?
• RQ4 재훈련 대비 제안된 방법의 미학습 효과성과 백도어 공격 방지 능력은 어떠한가?
• RQ5 훈련 없이도 고도의 미학습 정확도와 낮은 계산 비용을 동시에 달성할 수 있는가?

주요 결과

• Fast-FedUL은 미학습 모델에서 백도어 공격 성공률을 0.01%로 낮춰 악성 패턴을 효과적으로 제거한다.
• 오염되지 않은 클라이언트에서 주 작업 정확도를 최대 98% 유지하여 강력한 지식 보존 능력을 입증한다.
• Fast-FedUL은 재훈련 대비 미학습 시간을 1000배 감소시켜 실생활 적용에 매우 효율적이다.
• 이론적 분석을 통해 미학습 모델이 재훈련 모델과 증명 가능한 한계 내에 유지됨을 확인하여 신뢰성을 입증한다.
• 제거 실험 결과, 무작위 샘플링과 기울기 보정 없음은 성능을 최대 17% 저하시키며, 제안된 구성 요소의 필요성을 입증한다.
• 정성적 분석 결과, Fast-FedUL의 모델 매개변수 간 각도 이탈이 재훈련 모델과 10° 이내이며, 집중된 분포를 보여 높은 정밀도를 확인한다.