[논문 리뷰] Sharp Bounds for Federated Averaging (Local SGD) and Continuous Perspective

Margalit Glasgow, Honglin Yuan외 1명|arXiv (Cornell University)|2021. 11. 05.

Privacy-Preserving Technologies in Data참고 문헌 65인용 수 10

한 줄 요약

이 논문은 동종 및 이종 환경에서 모두 기존 상한과 하한 사이의 오랜 격차를 해결하면서, 연합 평균화(FedAvg)에 대한 날카운 수렴 한계를 확립한다. '반복 편향(iterate bias)'의 개념을 도입하고, 이는 확률적 미분 방정식(SDE) 시각에서 분석함으로써 기존 상한이 향상될 수 없음을 증명하며, 제3차 미분 가능성 조건 하에서 볼록 및 비볼록 환경에서 최신 기술 수준의 수렴 속도를 도출한다.

ABSTRACT

Federated Averaging (FedAvg), also known as Local SGD, is one of the most popular algorithms in Federated Learning (FL). Despite its simplicity and popularity, the convergence rate of FedAvg has thus far been undetermined. Even under the simplest assumptions (convex, smooth, homogeneous, and bounded covariance), the best-known upper and lower bounds do not match, and it is not clear whether the existing analysis captures the capacity of the algorithm. In this work, we first resolve this question by providing a lower bound for FedAvg that matches the existing upper bound, which shows the existing FedAvg upper bound analysis is not improvable. Additionally, we establish a lower bound in a heterogeneous setting that nearly matches the existing upper bound. While our lower bounds show the limitations of FedAvg, under an additional assumption of third-order smoothness, we prove more optimistic state-of-the-art convergence results in both convex and non-convex settings. Our analysis stems from a notion we call iterate bias, which is defined by the deviation of the expectation of the SGD trajectory from the noiseless gradient descent trajectory with the same initialization. We prove novel sharp bounds on this quantity, and show intuitively how to analyze this quantity from a Stochastic Differential Equation (SDE) perspective.

연구 동기 및 목표

• 동종 및 이종 설정에서 기존 FedAvg 수렴 상한과 하한 사이의 격차를 메우기.
• 현재 FedAvg의 이론적 분석이 알고리즘의 잠재력을 완전히 반영하고 있는지 여부를 규명하기.
• 반복 편향을 바탕으로 한 새로운 이론적 프레임워크를 구축하여, SGD 궤적의 결정론적 경사하강 경로에서의 이탈을 분석하기.
• 더 강력한 미분 가능성 조건, 특히 제3차 미분 가능성 조건 하에서 향상된 수렴 속도를 유도하기.
• 확률적 미분 방정식(SDE)을 통한 연속 시간 시각에서 FedAvg의 역학을 더 잘 이해하기.

제안 방법

• 반복 편향을 정의하여, 기대되는 SGD 궤적이 노이즈가 없는 경사하강 경로에서 벗어나는 정도를 분석한다.
• FedAvg 알고리즘의 진화를 모델링하기 위해 연속 시간 SDE 근사법을 사용하여 반복 편향을 분석한다.
• 동종 및 이종 설정 모두에서 FedAvg에 대한 날카운 하한을 유도하며, 기존 상한과 일치시킨다.
• 제3차 미분 가능성 조건 하에서 새로운 수렴 보장을 확립하며, 이는 이전 결과를 향상시킨다.
• 비볼록 및 볼록 설정 모두에서 기대 오차를 제어하기 위해 모멘트 한계와 텔레스코프적 부등식을 적용한다.
• 편향, 분산, 미분 가능성 조건을 균형 잡는 단계 크기 선택 전략을 적용하여 최적의 수렴 속도를 달성한다.

실험 결과

연구 질문

• RQ1 동종 설정에서 기존 FedAvg 상한 분석이 날카로운가, 아니면 향상될 수 있는가?
• RQ2 표준 가정(볼록, 미분 가능성, 유한 분산) 하에서 FedAvg의 근본적 수렴 한계는 무엇인가?
• RQ3 모델 이종성은 FedAvg의 수렴 속도에 어떤 영향을 미치며, 기존 상한이 하한에 의해 따라잡힐 수 있는가?
• RQ4 노이즈가 없는 궤적에서의 이탈로 정의된 반복 편향은 엄밀하게 한계를 정의하고, 이를 통해 수렴 분석을 향상시킬 수 있는가?
• RQ5 제3차 미분 가능성과 같은 추가적인 미분 가능성 조건 하에서 FedAvg는 이전에 알려진 것보다 더 빠른 수렴 속도를 달성할 수 있는가?

주요 결과

• 논문은 동종 설정에서 기존 최상의 상한과 일치하는 날카운 하한을 확립하여, 기존 상한 분석이 향상될 수 없음을 증명한다.
• 이종 설정에서는 현재 최상의 상한과 거의 일치하는 새로운 하한이 도출되었으며, 이는 상한 분석이 (거의) 날카로움을 시사한다.
• 제3차 미분 가능성 조건 하에서, 볼록 및 비볼록 설정 모두에서 최신 기술 수준의 수렴 속도를 증명하며, 이는 이전 결과를 향상시킨다.
• 반복 편향의 개념을 공식적으로 정의하고 한계를 정의함으로써, FedAvg 역학을 분석하는 데 새로운 이론적 시각을 제공한다.
• SDE 기반의 연속 시간 시각은 SGD 궤적 이탈을 더 직관적이고 정밀하게 분석할 수 있게 하여, 더 날카운 한계를 이끌어낸다.
• 유도된 수렴 속도에는 $\frac{HD^2}{KR}$, $\frac{\sigma D}{\sqrt{MKR}}$, $\frac{H^{1/3}\sigma^{2/3}D^{4/3}}{K^{1/3}R^{2/3}}$와 같은 항들이 포함되어 있으며, 이는 각 설정에서 최적임이 입증된다.