[논문 리뷰] RingFed: Reducing Communication Costs in Federated Learning on Non-IID Data

Guang Yang, Mu Ke외 3명|arXiv (Cornell University)|2021. 07. 19.

Privacy-Preserving Technologies in Data참고 문헌 37인용 수 9

한 줄 요약

RingFed는 중앙 서버에 의존하지 않고 클라이언트 간 직접적인 파arameter 교환을 통해 통신 비용을 줄이기 위해 피어 토폴로지 기반의 통신 아키텍처를 제안한다. 최종 서버 동기화 이전에 인접한 클라이언트 간에 사전 집계를 수행함으로써, 특히 비독립 동일분포(Non-IID) 조건에서 더 빠른 수렴 속도와 높은 정확도를 달성하면서도 통신 라운드 수를 크게 감소시킨다.

ABSTRACT

Federated learning is a widely used distributed deep learning framework that protects the privacy of each client by exchanging model parameters rather than raw data. However, federated learning suffers from high communication costs, as a considerable number of model parameters need to be transmitted many times during the training process, making the approach inefficient, especially when the communication network bandwidth is limited. This article proposes RingFed, a novel framework to reduce communication overhead during the training process of federated learning. Rather than transmitting parameters between the center server and each client, as in original federated learning, in the proposed RingFed, the updated parameters are transmitted between each client in turn, and only the final result is transmitted to the central server, thereby reducing the communication overhead substantially. After several local updates, clients first send their parameters to another proximal client, not to the center server directly, to preaggregate. Experiments on two different public datasets show that RingFed has fast convergence, high model accuracy, and low communication cost.

연구 동기 및 목표

• 대역폭 제한 조건에서 높은 통신 비용을 해결하기 위해.
• 클라이언트 간 통계적 이질성(Non-IID 데이터)이 존재하는 상황에서 수렴 속도와 모델 정확도를 향상시키기 위해.
• 모델 집계를 위해 중앙 서버에 대한 의존도를 줄여 네트워크 병목 현상을 최소화하기 위해.
• 시스템 이질성과 데이터 편향 조건에서도 성능을 유지할 수 있는 확장성 있고 견고한 통신 프레임워크를 설계하기 위해.

제안 방법

• RingFed는 기존의 스타 토폴로지 대신 링 토폴로지를 도입하여, 클라이언트가 모두 중앙 서버와 통신하는 대신 인접한 피어와 직접 통신하도록 한다.
• 로컬 학습 후 클라이언트는 이웃 클라이언트와 모델 파라미터를 교환하고 평균화함으로써 사전 집계를 수행하여 직접 서버 전송 횟수를 줄인다.
• 클라이언트 간 링 기반 교환 과정에서 파라미터 혼합 정도를 제어하기 위해 파라미터 γ를 도입하며, γ ∈ [0,1]은 클라이언트의 모델이 이웃 클라이언트의 파라미터로 얼마나 갱신될지를 결정한다.
• 최종적으로 링에서 집계된 모델만 중앙 서버로 전송되므로 총 통신량이 최소화된다.
• 모델 일관성과 수렴성을 유지하기 위해 주기적인 클라이언트 선택과 링 기반 파라미터 교환을 포함한 수정된 FedAvg 유사 학습 프로세스를 사용한다.
• 다양한 데이터셋과 클라이언트 선택 비율에 맞춰 학습률, 모멘타임, 학습률 감쇠 등의 하이퍼파라미터 최적화를 위한 튜닝을 수행한다.

실험 결과

연구 질문

• RQ1 표준 스타 토폴로지 대비 링 기반 통신 토폴로지가 피어드 학습에서 총 통신 비용을 줄일 수 있는가?
• RQ2 비독립 동일분포(Non-IID) 데이터 분포 조건에서 클라이언트 간 사전 집계는 수렴 속도와 모델 정확도에 어떤 영향을 미치는가?
• RQ3 수렴성과 성능를 균형 있게 유지하기 위해 링 교환 과정에서 최적의 파라미터 혼합 비율 γ는 무엇인가?
• RQ4 라운드당 선택된 클라이언트 수가 RingFed와 FedAvg 및 기타 기준 모델의 성능에 어떤 영향을 미치는가?
• RQ5 데이터 편향과 시스템 이질성에 대해 RingFed는 기존 방법보다 얼마나 더 뛰어난 견고성을 보이는가?

주요 결과

• RingFed는 MNIST 및 FMNIST 데이터셋에서 Non-IID 설정 조건에서 FedAvg보다 더 빠른 수렴 속도를 보이며, 더 적은 통신 라운드 수로 더 높은 테스트 정확도를 달성했다.
• 라운드당 50% 클라이언트 선택 조건에서 RingFed는 FMNIST에서 85.44%의 테스트 정확도를 기록했으며, 이는 FedAvg(80.92%) 및 기타 기준 모델을 초월했다.
• γ = 0.8일 때 RingFed는 모든 클라이언트 선택 비율에서 최고의 성능를 기록했으며, 50% 클라이언트 선택 조건에서 평균 정확도 85.44%와 표준편차 0.27을 기록했다.
• 10% 클라이언트 선택 조건에서 RingFed는 평균 정확도 75.49%를 기록했으며(γ=0.8), 이는 FedAvg(γ=0)의 74.46%보다 높은 성능를 보였다. 이는 더 뛰어난 견고성을 의미한다.
• 고도의 데이터 편향과 Non-IID 조건에서도 RingFed는 안정적인 수렴을 보였지만, FedAvg, FedProx, SCAFFOLD는 심각한 발산 현상을 보였다.
• 직접 서버 전송 횟수를 최소화함으로써 통신 비용이 감소했으며, 최종 링 집계 모델만 서버로 전송되기 때문에 총 대역폭 사용량이 줄었다.