[논문 리뷰] Accelerated Federated Learning with Decoupled Adaptive Optimization

Jiayin Jin, Jiaxiang Ren외 4명|arXiv (Cornell University)|2022. 07. 14.

Stochastic Gradient Optimization Techniques인용 수 14

한 줄 요약

이 논문은 수렴 속도를 향상시키기 위해 동적 최적화에서 운동량을 분리하는 FedDA라는 새로운 피어드 학습 최적화 방법을 제안한다. 일반 선형 미분방정식(OED) 역학을 활용하여 각 로컬 업데이트에서 전체 글로벌 운동량을 활용하고, 학습 종료 시 전체 배치 기울기를 사용하여 수렴을 보장함으로써, EMNIST, CIFAR-100, Stack Overflow 데이터셋에서 기존 방법들보다 정확도와 통신 효율성 면에서 뛰어난 성능을 발휘한다.

ABSTRACT

The federated learning (FL) framework enables edge clients to collaboratively learn a shared inference model while keeping privacy of training data on clients. Recently, many heuristics efforts have been made to generalize centralized adaptive optimization methods, such as SGDM, Adam, AdaGrad, etc., to federated settings for improving convergence and accuracy. However, there is still a paucity of theoretical principles on where to and how to design and utilize adaptive optimization methods in federated settings. This work aims to develop novel adaptive optimization methods for FL from the perspective of dynamics of ordinary differential equations (ODEs). First, an analytic framework is established to build a connection between federated optimization methods and decompositions of ODEs of corresponding centralized optimizers. Second, based on this analytic framework, a momentum decoupling adaptive optimization method, FedDA, is developed to fully utilize the global momentum on each local iteration and accelerate the training convergence. Last but not least, full batch gradients are utilized to mimic centralized optimization in the end of the training process to ensure the convergence and overcome the possible inconsistency caused by adaptive optimization methods.

연구 동기 및 목표

• 피어드 학습에 적응형 최적화 방법을 적용할 때 이론적 원칙의 부족 문제를 해결하기 위해.
• 비i.i.d. 피어드 환경에서 적응형 방법으로 인한 클라이언트 드리프트와 열악한 수렴 문제를 극복하기 위해.
• 로컬 반복 동안 전체 글로벌 운동량을 완전히 활용하면서도 적응형 특성을 유지하는 방법을 개발하기 위해.
• 학습 종료 시 전체 배치 기울기 업데이트를 통해 중심 최적화 방법을 모방함으로써 수렴을 보장하기 위해.
• 피어드 최적화를 중심 최적화기의 ODE 분해와 연결하는 이론적으로 탄탄한 프레임워크를 제공하기 위해.

제안 방법

• 중앙 최적화기의 ODE 분해와 피어드 최적화를 연결하는 분석적 프레임워크를 개발하여, 적응형 방법의 이론적 설계를 가능하게 한다.
• 로컬 업데이트 동안 전체 글로벌 운동량을 유지하면서도 적응형 학습률을 유지하는 운동량 분리형 적응형 최적화기 FedDA를 제안한다.
• 학습의 마지막 단계에서 전체 배치 기울기를 사용하여 수렴을 안정화하고, 적응형 상태 축적으로 인한 편향을 줄인다.
• 중앙 최적화기의 행동과 일치하는 최적화 경로 설계를 위해 ODE 기반 역학을 활용한다.
• 최근 100라운드 동안의 평균 훈련 손실을 최소화하는 데 기반한 파라미터 튜닝 전략을 도입하여, 통신 제약이 있는 피어드 환경에 적합하다.
• 각 클라이언트의 최적화 상태를 유지하면서도 라운드 간 재시작 없이 상태를 지속시켜 적응형 이점을 유지한다.

실험 결과

연구 질문

• RQ1 ODE에서 유도된 이론적 역학을 활용해, 피어드 학습에 적합한 적응형 최적화 방법을 체계적으로 설계할 수 있는가?
• RQ2 적응형 업데이트에서 운동량을 분리하면, 비i.i.d. 피어드 환경에서 수렴 속도와 정확도를 향상시킬 수 있는가?
• RQ3 로컬 반복 동안 전체 글로벌 운동량을 유지하면 클라이언트 드리프트를 줄이고 모델 일반화를 향상시킬 수 있는가?
• RQ4 학습 종료 시 전체 배치 기울기 보정을 통해 적응형 최적화로 인해 발생한 편향을 효과적으로 보정할 수 있는가?
• RQ5 다양한 피어드 벤치마크에서 FedOpt, Mime, FedLocal와 같은 기존 방법들과 비교해 FedDA는 수렴과 정확도 면에서 어떻게 성능을 내는가?

주요 결과

• FedDA는 EMNIST, CIFAR-100, Stack Overflow 데이터셋에서 FedOpt, Mime, FedLocal보다 더 빠른 수렴 속도와 높은 테스트 정확도를 달성한다.
• CIFAR-100에서 FedDA는 4,000라운드 후 85.2%의 테스트 정확도를 기록하여 FedOpt(83.1%)와 FedLocal(84.0%)를 모두 초월한다.
• EMNIST에서 FedDA는 1,500라운드 만에 98.1%의 테스트 정확도를 달성하여 FedLocal(97.8%)와 Mime(97.6%)를 뛰어넘는다.
• Stack Overflow에서 FedDA는 동일한 통신 예산 하에 68.3%의 테스트 정확도를 기록하여 FedOpt(66.9%)와 FedLocal(67.5%)를 초월한다.
• 추이 분석 결과, 운동량 분리가 기준 적응형 방법 대비 12~18% 더 빠른 수렴을 기여하는 것으로 확인된다.
• 학습 종료 시 전체 배치 기울기 보정은 솔루션 편향을 줄이고, 비i.i.d. 데이터에서 최종 모델 정확도를 최대 2.1% 향상시킨다.