[논문 리뷰] Better Generative Replay for Continual Federated Learning

Daiqing Qi, Handong Zhao외 1명|arXiv (Cornell University)|2023. 02. 25.

Privacy-Preserving Technologies in Data인용 수 13

한 줄 요약

이 논문은 클래스 증분 연합 학습(CI-FL)을 정의하고 FedCIL을 제안한다. 이는 FedCIL 모델 통합과 클라이언트 측 일관성 강화를 생성 재생과 결합해 비 IID 불안정성과 다중 작업 및 다수의 클라이언트 간의 망각을 완화하는 프레임워크이다.

ABSTRACT

Federated learning is a technique that enables a centralized server to learn from distributed clients via communications without accessing the client local data. However, existing federated learning works mainly focus on a single task scenario with static data. In this paper, we introduce the problem of continual federated learning, where clients incrementally learn new tasks and history data cannot be stored due to certain reasons, such as limited storage and data retention policy. Generative replay based methods are effective for continual learning without storing history data, but adapting them for this setting is challenging. By analyzing the behaviors of clients during training, we find that the unstable training process caused by distributed training on non-IID data leads to a notable performance degradation. To address this problem, we propose our FedCIL model with two simple but effective solutions: model consolidation and consistency enforcement. Our experimental results on multiple benchmark datasets demonstrate that our method significantly outperforms baselines.

연구 동기 및 목표

• 다 memory 버퍼 없이 다수의 클라이언트가 점진적으로 새로운 클래스를 학습하는 CI-FL의 실용적 문제를 도입한다.
• 비IID 데이터에서 ACGAN 생성 재생을 연합 학습과 단순 결합하는 것이 불안정하다는 것을 보여준다.
• 훈련을 안정시키고 망각 저항을 향상시키기 위해 서버 측 모델 통합과 클라이언트 측 일관성 강화를 갖춘 FedCIL을 제안한다.
• 여러 데이터셋에 대해 표준 벤치마크에서 FedCIL이 기준선보다 우수하다고 입증한다.

제안 방법

• 서버와 클라이언트를 위한 기본 생성기/분류기으로 Auxiliary Classifier GAN (ACGAN)을 사용한다.
• 비 IID로 인한 불안정성을 확인하고 두 가지 해결책을 제시한다: 균형 재생을 위한 합성 데이터 생성으로 서버 측 모델 통합, 서로 다른 생성기로부터의 분포를 맞추기 위한 클라이언트 측 일관성 손실을 통한 일관성 강화.
• 서버 측 통합은 병합된 클라이언트 매개변수에서 글로벌 모델을 초기화하고 클라이언트 생성기로부터의 합성 샘플로 이를 풍부하게 한다.
• 클라이언트 측 일관성 강화는 실제 데이터와 합성 데이터 간의 출력 로짓을 KL-발산 기반 손실로 정렬해 로컬 학습을 안정화한다.
• 세 가지 일관성 손실(L_c1, L_c2, L_c3)을 도입하고 이를 로컬 ACGAN 손실과 결합하여 최종 클라이언트 목표를 구성한다.
• 데이터 대신 모델 매개변수만 교환하여 프라이버시를 보존한다.

실험 결과

연구 질문

• RQ1 생성 재생 기반 접근법을 메모리 버퍼 없이 CI-FL에 효과적으로 통합하고 비 IID 데이터를 다룰 수 있는가?
• RQ2 서버 측 모델 통합과 클라이언트 측 일관성 강화를 통해 CI-FL에서 훈련 안정화와 망각 저항 개선이 가능한가?
• RQ3 FedCIL이 다수의 데이터셋에서 기존 FL 및 다른 CI-FL 기준선과 비교해 어떤 성능을 보이는가?

주요 결과

모델	MNIST	EMNIST-L	EMNIST-B	CIFAR-10
FedAvg (McMahan et al., 2017)	72.28\pm 0.82	19.36\pm 0.95	17.25\pm 0.25	27.21\pm 2.39
FedProx (Li et al., 2020)	72.84\pm 0.73	19.69\pm 0.75	17.74\pm 0.55	27.43\pm 2.46
FedLwF-2T (Usmanova et al., 2021)	75.61\pm 0.93	23.91\pm 0.78	17.22\pm 0.90	27.02\pm 2.38
FedAvg+DGR	97.46\pm 0.51	71.92\pm 0.74	63.55\pm 0.46	37.93\pm 2.27
FedProx+DGR	97.55\pm 0.48	71.83\pm 0.65	63.55\pm 0.27	37.87\pm 2.47
FedAvg+ACGAN Replay	97.13\pm 0.35	73.85\pm 0.17	66.87\pm 0.79	38.31\pm 2.64
FedProx+ACGAN Replay	97.38\pm 0.63	73.91\pm 0.29	66.19\pm 0.92	38.34\pm 2.55
FedCIL (Ours)	99.13\pm 0.34	78.15\pm 0.30	73.12\pm 0.47	45.27\pm 2.42

• FedCIL은 모든 작업 후 글로벌 정확도에서 MNIST, EMNIST-Letters, EMNIST-Balanced 및 CIFAR-10에서 기준선보다 현저히 우수하다.
• FedCIL은 FedAvg/FedProx를 사용하는 DGR 또는 ACGAN Replay 변형보다 더 높은 글로벌 정확도를 달성한다.
• 애블레이션 결과는 모델 통합, 일관성 강화, 생성 재생 각 구성 요소가 성능 향상에 기여한다고 보여준다.
• FedCIL 생성기는 비교 방법보다 더 높은 품질의 데이터를 생성하며(FID 낮음), 분류기 편향이 더 적다.
• 시각화와 혼동 행렬은 FedCIL이 작업 간 더 균형 잡힌 클래스 성능을 제공함을 시사한다.