[논문 리뷰] Asynchronous Hierarchical Federated Learning

Xing Wang, Yijun Wang|arXiv (Cornell University)|2022. 05. 31.

Privacy-Preserving Technologies in Data인용 수 6

한 줄 요약

이 논문은 클라이언트를 클러스터로 조직하고 엣지 집계기와 함께 비동기적 기울기 집계를 통해 노약성에 가중치를 부여함으로써 서버 부하를 줄이고 수렴 속도를 높이는 새로운 FL 아키텍처인 이질적 비동기 분산 학습(FedAH)을 제안한다. CIFAR-10에서 평가한 결과, FedAvg와 계층적 FedAvg보다 더 빠른 수렴 속도와 향상된 안정성을 확보하였으며, 최적의 초모수 조건에서 검증 정확도가 60%를 초과하였다.

ABSTRACT

Federated Learning is a rapidly growing area of research and with various benefits and industry applications. Typical federated patterns have some intrinsic issues such as heavy server traffic, long periods of convergence, and unreliable accuracy. In this paper, we address these issues by proposing asynchronous hierarchical federated learning, in which the central server uses either the network topology or some clustering algorithm to assign clusters for workers (i.e., client devices). In each cluster, a special aggregator device is selected to enable hierarchical learning, leads to efficient communication between server and workers, so that the burden of the server can be significantly reduced. In addition, asynchronous federated learning schema is used to tolerate heterogeneity of the system and achieve fast convergence, i.e., the server aggregates the gradients from the workers weighted by a staleness parameter to update the global model, and regularized stochastic gradient descent is performed in workers, so that the instability of asynchronous learning can be alleviated. We evaluate the proposed algorithm on CIFAR-10 image classification task, the experimental results demonstrate the effectiveness of asynchronous hierarchical federated learning.

연구 동기 및 목표

• 기하급수적으로 많은 클라이언트가 참여하는 중심 집중형 분산 학습에서 발생하는 확장성 및 통신 병목 문제를 해결하기 위해.
• 엣지 집계기를 도입한 계층적 클러스터링을 통해 서버 워크로드를 감소시키기 위해.
• 노약성 인식 집계와 함께 비동기 학습을 통합하여 수렴 속도 향상과 시스템 내성 향상시키기 위해.
• 로컬 클라이언트에 대한 정규화와 기울기 노약성 기반 가중치 집계를 통해 비동기 학습의 안정성을 높이기 위해.
• 이종 기기와 네트워크 조건을 고려한 실세계 구현을 위해 유연성과 확장성을 향상시키기 위해.

제안 방법

• 네트워크 토폴로지 또는 클러스터링 알고리즘을 사용해 클라이언트를 클러스터로 조직하고, 각 클러스터에서 하나의 장치를 클러스터 집계기로 지정한다.
• 계층적 집계를 적용: 로컬 모델은 먼저 클러스터 수준에서 집계되고, 이후 중앙 서버로 전송되는 것은 클러스터 요약 정보뿐이다.
• 비동기 분산 학습을 적용하며, 중앙 서버는 기울기 집계 시 노약성 함수 σ(t′−t)=(t′−t+1)−β를 사용해 오래된 기울기에 가중치를 부여한다.
• 로컬 클라이언트에서 L2 정규화를 사용한 정규화된 확률적 기울기 하강법을 구현하여 비동기 설정에서 학습을 안정화시킨다.
• 노약성과 클러스터 수준의 중요도를 모두 고려해 글로벌 모델 업데이트를 가중치 부여함으로써 빠른 기기와 느린 기기 간 기여도를 균형 있게 조정한다.
• 하이브리드 통신 패턴을 사용: 로컬 업데이트는 독립적으로 발생하며, 클러스터 및 중앙 서버로 비동기적으로 보고된다.

실험 결과

연구 질문

• RQ1 계층적 클러스터링이 대규모 분산 학습에서 통신 오버헤드와 서버 부하를 줄이는 데 효과적인가?
• RQ2 노약성 가중치 부여를 통한 비동기 기울기 집계가 수렴 속도와 안정성을 어떻게 향상시키는가?
• RQ3 로컬 클라이언트에 적용한 L2 정규화가 비동기 분산 학습에서의 불안정성을 어느 정도 완화하는가?
• RQ4 다양한 초모수(예: 노약성 함수의 β)가 수렴과 정확도에 어떤 영향을 미치는가?
• RQ5 비독립 동일 분포(non-iid) 및 이종 조건 하에서 중심 집중형 FedAvg와 비교해 계층적 설계가 모델 정확도를 유지하거나 향상시키는가?

주요 결과

• 노약성 함수의 β=2 또는 β=3일 경우, 2500 에포크 후 CIFAR-10에서 검증 정확도가 60%를 초과하여 β=0 및 β=1보다 유의미하게 뛰어났다.
• β=2 또는 β=3일 경우 학습 곡선이 안정적이며 더 빠르게 수렴함을 확인하여, 중간 정도의 노약성 처리가 정확도를 희생시키지 않고도 수렴을 향상시킨다는 것을 입증하였다.
• 중앙 서버의 통신 부하가 2500 에포크 기준 8,842건으로 줄어들었으며, 이는 FedAsync의 44,769건과 FedAvg의 50,000건에 비해 상당한 통신 절감 효과를 보였다.
• 클러스터 집계기는 총 52,904건의 업데이트를 처리하여, 계층적 집계가 중앙 서버의 부담을 효과적으로 외부로 이관함을 입증하였다.
• 노약성 인식 집계와 로컬 정규화 덕분에 기기의 이질성, 특히 느린 기기(스트래글러)에 대해 강건함을 보였다.
• 정규화 계수 λ는 현재 설정에서 영향을 거의 미치지 않아, 정규화의 잠재적 이점을 최대한 활용하기 위해 향후 초모수 조정 또는 스트래글러 시뮬레이션 필요성이 제기되었다.