[논문 리뷰] Acceleration of Federated Learning with Alleviated Forgetting in Local Training

Chencheng Xu, Zhiwei Hong외 2명|arXiv (Cornell University)|2022. 03. 05.

Privacy-Preserving Technologies in Data인용 수 16

한 줄 요약

이 논문은 전역 지식을 합성 데이터로 인코딩함으로써 추가적인 통신 없이 지역 학습에서 치명적인 잊음 문제를 완화함으로써 수렴 속도를 향상시키는 새로운 피드버그( FedReg )라는 피드버그 학습 알고리즘을 제안한다. 생성된 가짜 데이터와 변형된 데이터를 통한 정규화를 통해, 비독립 동일 분포(non-i.i.d.) 데이터 및 깊은 신경망 아키텍처 조건에서도 수렴 속도를 높이며, 성능 저하를 최소화하면서 기울기 역전 공격에 대한 개인정보 보호 기능을 강화한다.

ABSTRACT

Federated learning (FL) enables distributed optimization of machine learning models while protecting privacy by independently training local models on each client and then aggregating parameters on a central server, thereby producing an effective global model. Although a variety of FL algorithms have been proposed, their training efficiency remains low when the data are not independently and identically distributed (non-i.i.d.) across different clients. We observe that the slow convergence rates of the existing methods are (at least partially) caused by the catastrophic forgetting issue during the local training stage on each individual client, which leads to a large increase in the loss function concerning the previous training data at the other clients. Here, we propose FedReg, an algorithm to accelerate FL with alleviated knowledge forgetting in the local training stage by regularizing locally trained parameters with the loss on generated pseudo data, which encode the knowledge of previous training data learned by the global model. Our comprehensive experiments demonstrate that FedReg not only significantly improves the convergence rate of FL, especially when the neural network architecture is deep and the clients' data are extremely non-i.i.d., but is also able to protect privacy better in classification problems and more robust against gradient inversion attacks. The code is available at: https://github.com/Zoesgithub/FedReg.

연구 동기 및 목표

• 비독립 동일 분포(non-i.i.d.) 데이터 분포 조건에서 피드버그 학습의 느린 수렴 문제를 해결하고, 특히 지역 학습에서 발생하는 치명적인 잊음으로 인한 영향을 줄이기 위해.
• 통신 비용을 줄이고 통신 오버헤드를 늘리지 않으면서도 수렴 속도를 향상시키기 위해.
• 차별적 프라이버시를 사용하지 않고도, 특히 기울기 역전 공격에 대한 개인정보 보호 기능을 강화하기 위해.
• 분류 작업에서 개인정보 泄露 공격에 대비하면서도 높은 모델 성능을 유지하기 위해.
• 피드버그 학습에서 차별적 프라이버시의 통신 효율적이고 개인정보 보호 기능을 갖춘 대안을 제공하기 위해.

제안 방법

• FedReg는 전역 모델과 지역 데이터로부터 가짜 데이터를 생성하여 이전 학습 데이터의 지식을 인코딩하고, 전역 모델 정보를 유지한다.
• 소규모이고 제어된 변형을 지역 데이터에 적용하여 변형된 데이터를 도입함으로써 학습을 안정화하고 지역 데이터 분포와의 갈등을 줄인다.
• 기존 지역 데이터 외에도 가짜 데이터와 변형된 데이터에서 계산된 기울기를 사용하여 지역 모델을 정규화한다.
• 두 단계 최적화 과정을 사용한다: 먼저, 기울기를 계산하기 위해 천천히 갱신되는 파rameter 경로를 사용하여 조기 수렴을 방지한다.
• 가짜 데이터와 변형된 데이터의 기울기를 조합하여 정규화함으로써 학습을 안정화하고 이전에 학습한 지식의 잊음 현상을 줄인다.
• 표준 피드버그 학습 외에 추가 데이터 공유나 통신 없이 전역 모델과 지역 데이터만을 사용하여 작동한다.

실험 결과

연구 질문

• RQ1 비독립 동일 분포(non-i.i.i.d.) 데이터 조건에서 지역 피드버그 학습에서 치명적인 잊음 문제를 효과적으로 완화하여 수렴 속도를 향상시킬 수 있는가?
• RQ2 전역 모델에서 생성된 합성 가짜 데이터가 원시 클라이언트 데이터를 공유하지 않으면서도 충분한 지식을 유지하여 잊음 현상을 줄일 수 있는가?
• RQ3 가짜 데이터와 변형된 데이터를 통한 정규화가 표준 FedAvg 및 기타 기준 대비 수렴 속도 향상에 기여하는가?
• RQ4 FedReg가 차별적 프라이버시보다 기울기 역전 공격에 대해 더 강력한 개인정보 보호 기능을 제공하면서도 성능 저하를 최소화할 수 있는가?
• RQ5 FedReg의 성능은 다양한 신경망 깊이와 다양한 데이터 비독립 동일 분포 수준에서 어떻게 변화하는가?

주요 결과

• FedReg는 깊은 신경망과 극도로 비독립 동일 분포(non-i.i.d.) 데이터 분포 조건에서 피드버그 학습의 수렴 속도를 크게 향상시킨다.
• EMNIST와 MNIST 비독립 동일 분포 데이터에서 FedReg는 목표 정확도에 도달하기 위해 필요한 통신 라운드 수를 FedAvg 대비 최대 40% 감소시켰다.
• EMNIST에서 FedReg로 학습한 모델은 테스트 정확도 0.986을 달성했으며, 유사한 프라이버시 수준에서 DPSGD를 사용한 FedAvg(0.882)와 DPSGD를 사용한 FedProx(0.881)를 모두 능가했다.
• 코로나19 CT 영상 분류 작업에서 FedReg는 MG를 사용해 정확도 0.657을 달성했고, DPSGD를 사용한 FedAvg는 0.570을 기록하여 강력한 개인정보 보호 조건에서도 뛰어난 성능을 보였다.
• 기울기 역전 공격는 FedReg를 사용한 경우 MG를 통해 복원한 이미지의 품질이 기준 방법(DPSGD)보다 현저히 낮게 나타나, 더 강력한 개인정보 보호 기능을 제공함을 시사한다.
• FedReg의 성능는 학습률 및 정규화 강도와 같은 하이퍼파rameter에 민감하며, 통신 라운드 수를 최소화하는 최적의 균형이 존재한다.