[논문 리뷰] Class-wise Federated Unlearning: Harnessing Active Forgetting with Teacher-Student Memory Generation

Yuyuan Li, Jiaming Zhang외 2명|arXiv (Cornell University)|2023. 07. 07.

Domain Adaptation and Few-Shot Learning인용 수 4

한 줄 요약

이 논문은 신경과학에서의 능동적 기억 상실을 모방하기 위해 학생-교수 메모리 생성과 함께 점진적 학습을 사용하는 새로운 피어드 페어링(FedAF) 프레임워크를 제안한다. 이는 기존 방법의 데이터 영향 추정 및 이전 업데이트 저장이 필요 없음을 통해 한정된 자원 환경에서 비용 효율적으로 작동하며, MNIST, CIFAR10, CelebA 데이터셋에서 검증된 바, 타겟 데이터의 정확도가 거의 0%에 가까운 완벽한 페어링 완성도를 달성하면서도 비타겟 데이터의 기억 상실도 최소화한다.

ABSTRACT

Privacy concerns associated with machine learning models have driven research into machine unlearning, which aims to erase the memory of specific target training data from already trained models. This issue also arises in federated learning, creating the need to address the federated unlearning problem. However, federated unlearning remains a challenging task. On the one hand, current research primarily focuses on unlearning all data from a client, overlooking more fine-grained unlearning targets, e.g., class-wise and sample-wise removal. On the other hand, existing methods suffer from imprecise estimation of data influence and impose significant computational or storage burden. To address these issues, we propose a neuro-inspired federated unlearning framework based on active forgetting, which is independent of model architectures and suitable for fine-grained unlearning targets. Our framework distinguishes itself from existing methods by utilizing new memories to overwrite old ones. These new memories are generated through teacher-student learning. We further utilize refined elastic weight consolidation to mitigate catastrophic forgetting of non-target data. Extensive experiments on benchmark datasets demonstrate the efficiency and effectiveness of our method, achieving satisfactory unlearning completeness against backdoor attacks.

연구 동기 및 목표

• 기존 방법이 데이터 영향 추정의 정밀도 부족과 높은 계산 비용으로 어려움을 겪는 피어드 페어링의 과제를 해결한다.
• 분할-집계 프레임워크로 인해 시간 효율성이 떨어지는 피어드 환경에서의 정확한 페어링의 한계를 극복한다.
• 이전 업데이트 저장이 필요 없고 피어드 학습에 원활하게 통합될 수 있는 모델에 종속되지 않는 피어드 페어링 접근법을 개발한다.
• 특히 GDPR 및 CCPA와 같은 개인정보 보호 규정을 고려할 때, 비타겟 데이터에 대한 모델 유틸리티를 유지하면서도 높은 페어링 완성도를 확보한다.
• 신경과학적으로 영감을 얻은 메커니즘을 통해 타겟 데이터의 효과적인 페어링와 비타겟 데이터의 최소한의 카오스티크 포기(catastrophic forgetting) 사이의 균형을 이루도록 한다.

제안 방법

• 클라이언트 모델(학생)이 무작위로 초기화된 교수 모델로부터 학습하여 오래된 기억을 대체하는 학생-교수 정교화 프레임워크를 제안한다.
• 점진적 학습을 활용해 페어링을 순차적 작업으로 간주함으로써 카오스티크 포기 없이 지속적인 지식 갱신을 가능하게 한다.
• 비타겟 데이터에 대한 가중치 변화를 제약하기 위해 탄성 가중치 통합(Elastic Weight Consolidation, EWC)을 적용하여 비타겟 클래스에 대한 모델 성능을 유지한다.
• 페어링 완성도(낮은 타겟 정확도)와 비타겟 데이터 유지도(높은 비타겟 정확도) 사이의 균형을 조절하기 위해 무작위성 조절 하이퍼파라미터 λ를 도입한다.
• 기존의 데이터 영향 추정이나 다시 시작부터 재학습이 필요 없이, 새로운 메모리 생성을 통해 직접 기억된 패턴을 대체함으로써 이 과정을 간소화한다.
• 다양한 레이블 구성에서 페어링 과정의 강건성을 검증하기 위해 합성 레이블(균일, 무작위, 교수, 편향 제거된 교수)을 사용한다.

실험 결과

연구 질문

• RQ1 데이터 영향 추정이나 재학습에 의존하지 않고도 피어드 페어링 방법이 타겟 데이터의 영향을 거의 완전히 제거할 수 있는가?
• RQ2 학생-교수 메모리 생성과 함께 점진적 학습을 사용할 경우, 비타겟 데이터의 카오스티크 포기를 효과적으로 방지할 수 있는가?
• RQ3 페어링 완성도와 비타겟 데이터에 대한 모델 유틸리티 사이의 최적 균형은 무엇이며, 하이퍼파라미터 λ는 이 균형에 어떤 영향을 미치는가?
• RQ4 가짜 레이블이 사용되는 경우와 같이 레이블이 겹치거나 모호한 상황에서도 제안된 방법이 강건한가?
• RQ5 다양한 벤치마크 데이터셋에서 타겟 데이터의 정확도는 거의 0%에 도달하면서도 비타겟 데이터의 정확도는 높게 유지되는가?

주요 결과

• FedAF는 모든 데이터셋(MNIST, CIFAR10, CelebA)에서 타겟 데이터의 정확도가 거의 0%에 가까운 수준을 달성하여 거의 완전한 페어링 완성도를 입증한다.
• λ = 10일 경우, 비타겟 데이터 정확도가 높게 유지되며, 예를 들어 CelebA에서는 >95%, MNIST에서는 >98%를 기록하여 카오스티크 포기의 최소화를 확인한다.
• 교수 레이블을 사용할 경우 균일하거나 무작위 레이블보다 타겟 데이터 정확도가 낮게 나타나, 메모리 대체 메커니즘의 효과를 확인한다.
• 교수 레이블의 편향을 제거함으로써 비타겟 데이터 성능이 향상되어, 레이블 품질이 페어링 강건성에 영향을 준다는 것을 보여준다.
• 가짜 레이블을 사용한 실험 결과, 비타겟 데이터 정확도가 모든 레이블 유형에서 일관되게 높게 유지되어, 방법의 레이블 조작에 대한 강건성이 확인된다.
• 데이터 영향 추정의 고비용 계산을 피하고 이전 모델 업데이트 저장이 필요 없기 때문에, 최소한의 계산 오버헤드로도 뛰어난 성능을 달성한다.