[논문 리뷰] Decentralized Federated Averaging

Tong Sun, Dongsheng Li외 1명|arXiv (Cornell University)|2021. 04. 23.

Stochastic Gradient Optimization Techniques인용 수 23

한 줄 요약

이 논문은 통신 효율적이고 프라이버시를 보장하는 중앙집중형 FedAvg의 대안으로, 중심 서버를 피어 투 피어 클라이언트 간 통신으로 대체하는 분산형 평균화 방법인 Decentralized Federated Averaging with Momentum (DFedAvgM)을 제안한다. 비방향 그래프 기반의 클라이언트 간 통신을 통해 구현되며, 모멘텀과 양자화를 통합하여 통신 비용을 감소시키면서도 비볼록 및 Polyak-Łojasiewicz (PŁ) 조건 하에서 수렴성을 보장한다. 실험 결과는 DFedAvgM이 통신 비용을 크게 줄이고 프라이버시를 향상시킬 수 있으며, FedAvg와 유사한 성능을 보임을 시사한다.

ABSTRACT

Federated averaging (FedAvg) is a communication efficient algorithm for the distributed training with an enormous number of clients. In FedAvg, clients keep their data locally for privacy protection; a central parameter server is used to communicate between clients. This central server distributes the parameters to each client and collects the updated parameters from clients. FedAvg is mostly studied in centralized fashions, which requires massive communication between server and clients in each communication. Moreover, attacking the central server can break the whole system's privacy. In this paper, we study the decentralized FedAvg with momentum (DFedAvgM), which is implemented on clients that are connected by an undirected graph. In DFedAvgM, all clients perform stochastic gradient descent with momentum and communicate with their neighbors only. To further reduce the communication cost, we also consider the quantized DFedAvgM. We prove convergence of the (quantized) DFedAvgM under trivial assumptions; the convergence rate can be improved when the loss function satisfies the PŁ property. Finally, we numerically verify the efficacy of DFedAvgM.

연구 동기 및 목표

• 중앙집중형 플러드러닝 평균화(FedAvg)에서 발생하는 통신 병목 현상과 프라이버시 리스크를 해결하기 위해.
• FedAvg에서 단일 장애 지점이자 프라이버시 취약점인 중심 서버 의존도를 제거하기 위해.
• 학습 효율성을 유지하면서 클라이언트 간 통신 비용을 줄이는 분산형 대안을 개발하기 위해.
• 분산형 플러드러닝에 모멘텀과 양자화를 통합하여 수렴성 향상과 대역폭 사용 감소를 도모하기 위해.
• 일반적인 비볼록 및 PŁ 조건 하에서 DFedAvgM의 수렴 보장을 이론적으로 확립하고, 딥 네트워크(DNNs)에서의 성능을 실증적으로 검증하기 위해.

제안 방법

• 비방향 그래프로 연결된 클라이언트 간 통신을 기반으로 하는 FedAvg의 분산형 변형인 DFedAvgM을 제안하며, 각 클라이언트는 모멘텀을 사용한 국소 SGD를 수행한다.
• 각 클라이언트는 자신의 데이터를 사용해 다수의 국소 업데이트를 수행하고, 이웃 클라이언트와만 통신함으로써 중심 파rameter 서버가 필요 없도록 한다.
• 클라이언트 간 교환되는 모델 파라미터를 압축(양자화)하는 DFedAvgM의 양자화 버전을 도입하여 통신 비용을 추가로 감소시킨다.
• 이론적 분석을 통해 DFedAvgM의 수렴 속도가 표준 비볼록 가정 하에서 분산형 SGD(DDSGD)와 동일한 수준임을 입증한다.
• Polyak-Łojasiewicz(PŁ) 조건 하에서는 일반 경우보다 더 빠른 하향 수렴 속도를 보이며, 이는 특정 손실 표면에서 최적화 효율성이 향상됨을 시사한다.
• 통신 비용 감소를 위한 충분조건을 유도하며, 이를 그래프 구조와 국소 학습 역학과 연결한다.

실험 결과

연구 질문

• RQ1 모멘텀을 적용한 분산형 플러드러닝이 통신 비용을 줄이고 프라이버시를 향상시키면서도 FedAvg와 유사한 수렴 성능를 달성할 수 있는가?
• RQ2 분산형 플러드러닝에 양자화를 통합할 경우, 성능과 수렴성은 유지되면서 대역폭 사용을 최소화할 수 있는가?
• RQ3 비볼록 및 PŁ 조건 하에서 모멘텀이 적용된 분산형 FedAvg의 이론적 수렴 행동은 어떠한가?
• RQ4 클라이언트를 연결하는 그래프 구조는 DFedAvgM의 수렴 속도에 어떤 영향을 미치는가?
• RQ5 DFedAvgM은 IID 및 Non-IID 데이터 설정 모두에서 강건성과 효율성을 유지할 수 있는가?

주요 결과

• 일반적인 비볼록 가정 하에서 DFedAvgM은 분산형 SGD(DDSGD)와 유사한 수렴 속도를 보이며, 성능 저하 없이 구현된다.
• PŁ 조건 하에서는 더 빠른 하향 수렴 속도를 나타내어, 특정 손실 표면에서 최적화 효율성이 향상됨을 시사한다.
• DFedAvgM의 양자화 버전은 뛰어난 성능 유지를 보이며, 낮은 비트 정밀도(예: 16비트)에서도 정확도 저하가 미미하여 효과적인 통신 압축을 입증한다.
• 실증 결과는 DFedAvgM이 통신 라운드 수에 따라 FedAvg와 동일한 테스트 정확도와 손실을 달성하지만, 전송되는 비트 수 측면에서 크게 통신 비용을 절감함을 보여준다.
• 로컬 에포크 수를 1 이상으로 늘일수록 성능 저하가 발생하는 경향이 있으며, 특히 양자화 시에 두드러져 국소 계산과 통신 효율성 간의 트레이드오프가 존재함을 시사한다.
• 멤버십 추론 공격(MIA) 결과, 중심 서버가 없기 때문에 모델 역전환 및 데이터 泄露 위험이 줄어들어 DFedAvgM이 FedAvg보다 더 나은 데이터 프라이버시 보호를 제공함을 확인했다.