[논문 리뷰] A General Theory for Federated Optimization with Asynchronous and Heterogeneous Clients Updates

Yann Fraboni, Yu. Vertogradova외 2명|arXiv (Cornell University)|2022. 06. 21.

Stochastic Gradient Optimization Techniques인용 수 11

한 줄 요약

이 논문은 이질적인 클라이언트를 고려한 비동기 분산 최적화를 위한 일반적인 이론적 프레임워크를 제안하며, 수렴을 보장하기 위해 지연을 확률적 집합 가중치로 모델링한다. 또한, 고정된 시간 창 내에서 업데이트를 집계함으로써 비동기 학습을 안정화하는 새로운 기법인 FedFix를 도입하여, 동기화 및 표준 비동기 FedAvg보다 안정성과 수렴 속도에서 뛰어난 성능을 발휘한다.

ABSTRACT

We propose a novel framework to study asynchronous federated learning optimization with delays in gradient updates. Our theoretical framework extends the standard FedAvg aggregation scheme by introducing stochastic aggregation weights to represent the variability of the clients update time, due for example to heterogeneous hardware capabilities. Our formalism applies to the general federated setting where clients have heterogeneous datasets and perform at least one step of stochastic gradient descent (SGD). We demonstrate convergence for such a scheme and provide sufficient conditions for the related minimum to be the optimum of the federated problem. We show that our general framework applies to existing optimization schemes including centralized learning, FedAvg, asynchronous FedAvg, and FedBuff. The theory here provided allows drawing meaningful guidelines for designing a federated learning experiment in heterogeneous conditions. In particular, we develop in this work FedFix, a novel extension of FedAvg enabling efficient asynchronous federated training while preserving the convergence stability of synchronous aggregation. We empirically demonstrate our theory on a series of experiments showing that asynchronous FedAvg leads to fast convergence at the expense of stability, and we finally demonstrate the improvements of FedFix over synchronous and asynchronous FedAvg.

연구 동기 및 목표

• 클라이언트의 이질성과 변동하는 업데이트 지연으로 인한 비동기 분산 학습의 불안정성과 수렴 문제를 해결하기 위해.
• FedAvg를 일반화하고, 비동기, 비i.i.d., 이질적인 클라이언트 환경으로의 수렴 보장을 확장하는 통합 이론적 모델을 개발하기 위해.
• 데이터 이질성과 무관하게 비동기 업데이트 상황에서 진정한 전역 최적해로의 수렴을 보장하기 위한 충분한 조건을 제공하기 위해.
• 수렴 안정성을 유지하면서 학습 속도를 향상시키는 강력한 비동기 FL 기법인 FedFix를 설계하고 검증하기 위해.
• FedFix가 이질적 환경에서 동기화 및 비동기 FedAvg보다 우수한 성능을 보임을 경험적으로 입증하기 위해.

제안 방법

• 클라이언트의 계산 시간과 능력에 따라 달라지는 확률적 집합 가중치를 도입하여, 클라이언트 업데이트 가중치를 랜덤 변수로 모델링하는 스토하스틱 집합 프레임워크를 제안한다.
• 비동기 업데이트 하에서 일반적인 분산 최적화 문제의 수렴 한계를 유도하며, 집합 가중치와 학습률에 대한 조건을 도출한다.
• 클라이언트의 계산 시간 추정치와 유계 기울기를 바탕으로 전역 최적해로의 수렴을 위한 충분한 조건을 설정한다.
• 고정된 간격 내에서 모든 클라이언트 업데이트를 수집한 후 글로벌 모델을 업데이트하는 시간 창 기반 집합 전략인 FedFix를 제안한다.
• 이론적 분석을 통해 FedFix가 비동기 상황에서도 수렴 안정성을 유지하며, 표준 비동기 FedAvg보다 더 날카운 수렴 한계를 확보함을 보여준다.
• 실제 시간 지연 상황을 반영한 CIFAR-10 및 Shakespeare 데이터셋에서의 실험을 통해 이론을 검증한다.

실험 결과

연구 질문

• RQ1 이질적인 클라이언트와 변동하는 업데이트 지연을 고려한 비동기 분산 학습을 분석할 수 있는 일반적인 이론적 프레임워크를 개발할 수 있는가?
• RQ2 데이터 이질성과 무관하게 비동기 분산 최적화에서 전역 최적해로의 수렴을 보장하기 위한 조건는 무엇인가?
• RQ3 동기화 조율 없이도 비동기 분산 학습을 안정적이고 효율적으로 만들 수 있는가?
• RQ4 FedFix는 동기화 및 비동기 FedAvg에 비해 수렴 안정성과 속도를 얼마나 향상시키는가?
• RQ5 제안된 프레임워크 하에서 편향된 클라이언트 샘플링 전략이 이론적으로 타당하고 수렴 가능하게 만들 수 있는가?

주요 결과

• FedFix는 유휴 시간을 제거함으로써 동기화 FedAvg보다 더 빠른 수렴을 달성하면서도, 시간 창 기반 집합을 통해 수렴 안정성을 유지한다.
• 이론적 분석 결과, FedFix는 클라이언트 계산 시간과 학습률에 대해 온건한 조건 하에서도 전역 최적해로 수렴함을 보여준다.
• CIFAR-10 및 Shakespeare 데이터셋에서의 실험을 통해 비동기 FedAvg는 빠르게 수렴하지만 불안정성을 보이는 반면, FedFix는 일관된 성능 향상을 제공함을 확인했다.
• 이 프레임워크는 FedAvg, 비동기 FedAvg, FedBuff를 일반화하여 하나의 이론적 틀 안에서 통합 분석할 수 있다.
• 손실나이거나 자원 기반으로 클라이언트를 샘플링하는 편향된 전략도 시간 창 기반의 비편향 샘플링과 조합함으로써 수렴 가능하게 만들 수 있으며, 이는 수렴 한계에 의해 공식화되었다.
• FedFix의 수렴 오차 한계는 특히 고도로 이질적인 환경에서 표준 비동기 FedAvg보다 더 날카롭게 유지된다.