[논문 리뷰] Faster Non-Convex Federated Learning via Global and Local Momentum

Rudrajit Das, Anish Acharya외 4명|arXiv (Cornell University)|2020. 12. 07.

Privacy-Preserving Technologies in Data참고 문헌 50인용 수 10

한 줄 요약

이 논문은 비볼록 최적화를 위한 최적의 $Ó(\epsilon^{-1.5})$ 반복 복잡도를 달성하는 새로운 피어드 학습 알고리즘인 FedGLOMO를 제안한다. 이는 서버 집계와 클라이언트 수준의 확률적 경사에서 발생하는 분산을 줄이기 위해 글로벌 및 로컬 모멘타를 조합함으로써 달성된다. 이 알고리즘은 임의의 클라이언트 이질성과 압축된 통신 조건 하에서도 이전 방법들보다 뛰어나며, 유병한 클라이언트 이질성에 대한 검증되지 않은 가정에 의존하지 않는다.

ABSTRACT

We propose exttt{FedGLOMO}, a novel federated learning (FL) algorithm with an iteration complexity of $\mathcal{O}(ε^{-1.5})$ to converge to an $ε$-stationary point (i.e., $\mathbb{E}[\| abla f(\bm{x})\|^2] \leq ε$) for smooth non-convex functions -- under arbitrary client heterogeneity and compressed communication -- compared to the $\mathcal{O}(ε^{-2})$ complexity of most prior works. Our key algorithmic idea that enables achieving this improved complexity is based on the observation that the convergence in FL is hampered by two sources of high variance: (i) the global server aggregation step with multiple local updates, exacerbated by client heterogeneity, and (ii) the noise of the local client-level stochastic gradients. By modeling the server aggregation step as a generalized gradient-type update, we propose a variance-reducing momentum-based global update at the server, which when applied in conjunction with variance-reduced local updates at the clients, enables exttt{FedGLOMO} to enjoy an improved convergence rate. Moreover, we derive our results under a novel and more realistic client-heterogeneity assumption which we verify empirically -- unlike prior assumptions that are hard to verify. Our experiments illustrate the intrinsic variance reduction effect of exttt{FedGLOMO}, which implicitly suppresses client-drift in heterogeneous data distribution settings and promotes communication efficiency.

연구 동기 및 목표

• 클라이언트 이질성과 확률적 경사에서 기인하는 높은 분산으로 인한 피어드 학습의 느린 수렴 문제를 해결하기 위해.
• 이전 이론적 분석에서 흔히 사용되지만 검증되지 않은 유병한 클라이언트 이질성(Bounded Client Dissimilarity, BCD) 가정에 대한 의존도를 제거하기 위해.
• 부드러운 비볼록 함수에서 $\epsilon$-정류점에 도달하기 위한 최적의 반복 복잡도 $Ó(\epsilon^{-1.5})$ 를 달성하기 위해.
• 압축된 통신을 통해 통신 효율성을 확보하면서도 임의의 데이터 이질성 조건 하에서도 빠른 수렴을 유지하기 위해.
• 더 현실적인 클라이언트 이질성 가정이 실제 피어드 학습 환경을 더 잘 반영하므로 이를 경험적으로 검증하기 위해.

제안 방법

• 서버(글로벌) 및 클라이언트(로컬) 수준에서 모두 모멘타 기반 분산 감소를 적용하는 피어드 학습 알고리즘인 FedGLOMO를 도입한다.
• 서버 집계 단계를 일반화된 경사 유형 업데이트로 모델링하여 글로벌 분산을 줄이며, 글로벌 업데이트 방향에 모멘타 항목을 사용한다.
• 클라이언트에서 스토하스틱 경사에 대한 모멘타를 사용하여 국소 분산 감소 업데이트를 수행함으로써 국소 드리프트와 노이즈를 억제한다.
• 클라이언트 경사 간의 유병한 이질성에 대한 제약 조건이 필요 없는 새로운 클라이언트 이질성 가정을 기반으로 수렴 보장을 도출한다.
• 양자화 노이즈의 영향을 분석하고 이를 수렴 분석에 통합함으로써 압축된 통신을 지원한다.
• 국소 및 글로벌 분산 성분을 동시에 제어할 수 있는 통합 분석 프레임워크를 사용하여 반복 복잡도를 향상시킨다.

실험 결과

연구 질문

• RQ1 임의의 클라이언트 이질성 조건 하에서도 비볼록 최적화에서 $Ó(\epsilon^{-1.5})$ 반복 복잡도를 달성할 수 있는 피어드 학습 알고리즘이 존재하는가?
• RQ2 글로벌 및 로컬 모멘타를 조합하면 서버 집계와 클라이언트 업데이트 양쪽에서 분산을 크게 줄일 수 있는가?
• RQ3 유병한 클라이언트 이질성(Bounded Client Dissimilarity, BCD) 가정에 의존하지 않고도 수렴 분석을 도출할 수 있는가?
• RQ4 실제 비독립 동일 분포가 아닌 데이터 분포와 압축된 통신 조건 하에서 FedGLOMO는 실제로 얼마나 잘 작동하는가?
• RQ5 제안된 클라이언트 이질성 가정은 경험적으로 검증 가능하며 기존 가정보다 더 현실적인가?

주요 결과

• FedGLOMO는 부드러운 비볼록 함수에서 $\epsilon$-정류점에 도달하기 위해 최적의 반복 복잡도 $Ó(\epsilon^{-1.5})$ 를 달성한다.
• 유사한 조건 하에서 이전 방법들이 달성한 $Ó(\epsilon^{-2})$ 복잡도에 비해 FedGLOMO는 성능이 뛰어나다.
• 수렴 분석에서 유병한 클라이언트 이질성(Bounded Client Dissimilarity, BCD) 가정이 필요 없으며, 이는 실질적으로 검증되지 않는 경우가 많다.
• 경험 결과에 따르면 FedGLOMO는 분산 감소를 통해 이질적인 데이터 환경에서 클라이언트 드리프트를 암묵적으로 억제함을 확인하였다.
• 실험적 평가에 따르면 압축된 통신 조건 하에서도 FedGLOMO는 통신 효율성을 유지함을 입증하였다.
• 제안된 클라이언트 이질성 가정은 문헌에서 흔히 사용되는 가정보다 더 현실적임을 경험적으로 검증하였다.