[논문 리뷰] EvoFed: Leveraging Evolutionary Strategies for Communication-Efficient Federated Learning

Mohammad Mahdi Rahimi, Hasnain Irshad Bhatti외 3명|arXiv (Cornell University)|2023. 11. 13.

Privacy-Preserving Technologies in Data인용 수 4

한 줄 요약

EvoFed는 기존의 모델 파라미터 전송을 진화 전략에서 유도된 적합도 기반 유사도 측정치로 대체하는 통신 효율적인联邦 학습 프레임워크를 제안한다. 국소적으로 업데이트된 모델과 노이즈 페르튜베이션된 개체군 간의 거리 기반 적합도 값만 전송함으로써, FMNIST에서는 98.8% 이상의 압축률을 달성하고, CIFAR-10에서는 99.7%에 이를 정도로 높은 압축률을 기록하며, FedAvg와 동일한 정확도를 유지하면서도 통신 비용을 극적으로 감소시킨다. 수렴성 또한 유지된다.

ABSTRACT

Federated Learning (FL) is a decentralized machine learning paradigm that enables collaborative model training across dispersed nodes without having to force individual nodes to share data. However, its broad adoption is hindered by the high communication costs of transmitting a large number of model parameters. This paper presents EvoFed, a novel approach that integrates Evolutionary Strategies (ES) with FL to address these challenges. EvoFed employs a concept of 'fitness-based information sharing', deviating significantly from the conventional model-based FL. Rather than exchanging the actual updated model parameters, each node transmits a distance-based similarity measure between the locally updated model and each member of the noise-perturbed model population. Each node, as well as the server, generates an identical population set of perturbed models in a completely synchronized fashion using the same random seeds. With properly chosen noise variance and population size, perturbed models can be combined to closely reflect the actual model updated using the local dataset, allowing the transmitted similarity measures (or fitness values) to carry nearly the complete information about the model parameters. As the population size is typically much smaller than the number of model parameters, the savings in communication load is large. The server aggregates these fitness values and is able to update the global model. This global fitness vector is then disseminated back to the nodes, each of which applies the same update to be synchronized to the global model. Our analysis shows that EvoFed converges, and our experimental results validate that at the cost of increased local processing loads, EvoFed achieves performance comparable to FedAvg while reducing overall communication requirements drastically in various practical settings.

연구 동기 및 목표

• 모델 파라미터의 빈번한 전송으로 인한 높은 통신 오버헤드 문제를 해결하기 위해.
• 진화 전략을 활용하여 기존의 기울기 기반 방법의 통신 효율성 한계를 극복하기 위해.
• 클라이언트와 서버 간의 데이터 전송을 최소화하면서도 모델 정확도를 유지하는 탈중앙화된 훈련 프레임워크를 개발하기 위해.
• 클라이언트 업데이트에서 기울기 계산이나 역전파에 의존하지 않고도 통신 효율적인 FL을 실현하기 위해.
• 개체군 기반 기울기 인코딩을 통해 모델 업데이트를 압축된 적합도 벡터로 인코딩함으로써 고압축률을 달성하기 위해.

제안 방법

• 각 클라이언트가 국소적으로 업데이트된 모델과 노이즈 페르튜베이션된 모델 개체군 간의 유사도로 산정된 적합도 값을 계산하는 인코딩 기반 개체군 기반 기울기 인코딩(PBGE)을 도입한다.
• 클라이언트와 서버 간에 동기화된 랜덤 시드를 사용하여 동일한 페르튜베이션된 모델 개체군을 생성함으로써 적합도 계산의 일관성을 확보한다.
• 완전한 모델 파라미터 대신 국소 모델과 페르튜베이션된 개체군 간의 적합도 값(거리)만 전송한다.
• 서버에서 적합도 벡터를 집계하고, 이를 기반으로 글로벌 적합도 벡터를 생성하여 클라이언트로 다시 배포함으로써 동기화된 모델 업데이트를 수행한다.
• 소규모 페르튜베이션된 모델 개체군이 전체 기울기 방향을 근사할 수 있음을 활용하여, 정보 손실 최소화로 고압축률을 달성한다.
• 글로벌 적합도 벡터를 사용해 FedAvg 스타일의 집계를 적용하여 글로벌 모델을 업데이트함으로써, 수렴성과 클라이언트 간의 일치를 보장한다.

실험 결과

연구 질문

• RQ1 진화 전략이 연합 학습에 효과적으로 적용되어 모델 정확도를 희생시키지 않고 통신 비용을 줄일 수 있는가?
• RQ2 PBGE를 통한 적합도 기반 정보 공유가 기울기 기반 모델 업데이트를 얼마나 효과적으로 대체할 수 있으며, 수렴성과 성능을 유지할 수 있는가?
• RQ3 개체군 크기와 노이즈 분산의 선택이 EvoFed의 통신 효율성과 모델 정확도에 어떤 영향을 미치는가?
• RQ4 기본적인 FedAvg와 비교했을 때 EvoFed의 통신 절감 효과와 지역 계산 증가 간의 상호 상충 관계는 어떠한가?
• RQ5 EvoFed가 MNIST, FMNIST, CIFAR-10와 같은 다양한 데이터셋에서 기존 FedAvg보다 유사하거나 우수한 성능을 내며 극도로 낮은 통신 부담으로도 기능할 수 있는가?

주요 결과

• FMNIST 데이터셋에서 EvoFed는 단지 7.78 MB의 통신으로 84.72%의 정확도를 달성하였으며, 이는 FedAvg(40.99 MB에서 85.53% 정확도)보다 통신 효율성이 뛰어나다.
• CIFAR-10에서 EvoFed는 0.023 GB의 통신으로 54.12%의 정확도를 기록하였고, 이는 FedAvg의 2.134 GB에서 50.22%의 정확도를 기록한 것보다 뛰어나며, 모델 압축률이 99.7% 이상임을 입증한다.
• MNIST에서 EvoFed는 9.2 MB의 통신으로 97.62%의 정확도를 달성하였고, 이는 FedAvg의 73.7 MB 대비 98.8%의 효과적 압축률을 기록하였다.
• FMNIST에서 개체군 크기를 늘릴수록 성능 향상의 폭이 128개를 초과하면 둔화되며, 이는 매개변수 공간 탐색이 충분히 이루어졌음을 시사한다.
• 완전한 모델 파라미터 대신 압축된 적합도 벡터를 사용함에도 불구하고, 다양한 데이터셋에서 수렴성과 일반화 성능을 유지하였다.
• 특히 고압축률에서 Fed-quant와 Fed-sparse와 같은 기준 방법보다 정확도와 통신 효율성 면에서 모두 뛰어난 성능을 보였다.