[논문 리뷰] Adaptive Federated Optimization

Sashank J. Reddi, Zachary Charles외 6명|arXiv (Cornell University)|2020. 02. 29.

Privacy-Preserving Technologies in Data참고 문헌 45인용 수 128

한 줄 요약

이 논문은 FedOpt 프레임워크 내에서 연합 학습을 위한 적응형 서버 사이드 옵티마이저(FedAdagrad, FedAdam, FedYogi)를 도입하고, 비볼록 설정에 대한 수렴 분석을 제공하며, 다양한 크로스 디바이스 태스크에서 더 우수한 실험 성능과 더 쉬운 튜닝을 시연한다.

ABSTRACT

Federated learning is a distributed machine learning paradigm in which a large number of clients coordinate with a central server to learn a model without sharing their own training data. Standard federated optimization methods such as Federated Averaging (FedAvg) are often difficult to tune and exhibit unfavorable convergence behavior. In non-federated settings, adaptive optimization methods have had notable success in combating such issues. In this work, we propose federated versions of adaptive optimizers, including Adagrad, Adam, and Yogi, and analyze their convergence in the presence of heterogeneous data for general non-convex settings. Our results highlight the interplay between client heterogeneity and communication efficiency. We also perform extensive experiments on these methods and show that the use of adaptive optimizers can significantly improve the performance of federated learning.

연구 동기 및 목표

• 이질적인 연합 데이터에서 FedAvg의 수렴 및 튜닝 문제를 해결한다.
• 서버 측 적응성을 가능하게 하는 통합된 FedOpt 프레임워크를 제안한다.
• 비볼록 FL 설정에서의 적응형 서버 최적화의 수렴을 분석한다.
• 이미지/텍스트 태스크 및 벤치마크를 통해 적응형 연합 최적화 기법을 실증 검증한다.

제안 방법

• 일반적인 FedOpt 프레임워크: 서버 업데이트가 평균 클라이언트 업데이트 벡터에 그래디언트 기반 옵티마이저를 적용한다.
• ServerOpt를 적응형 옵티마이저(Adagrad, Adam, Yogi)로, ClientOpt를 SGD로 하는 FedOpt를 특수화한다.
• 완전 참여 하에서의 비볼록 가정 하에 수렴 분석을 제공하되(부분 참여로 확장 가능).
• FedAvg가 클라이언트에서 SGD를 사용하고 서버에서 SGD를 통해 학습률이 1인 특별한 경우임을 보여준다.
• 구체적인 수렴 속도 및 매개변수 선택(η, η_l, τ)을 설명하는 결과도출(Corollaries)을 도출한다.
• FedAdagrad, FedAdam, FedYogi를 FedAvg, FedAvgM, SCAFFOLD와 비교하는 7개의 FL 태스크를 다섯 데이터셋에서 실험한다.

실험 결과

연구 질문

• RQ1 이질적 데이터에서의 연합 학습에서 적응형 서버 최적화가 수렴을 개선할 수 있는가?
• RQ2 로컬(클라이언트) 업데이트와 서버 측 적응성이 수렴 및 통신 효율성에 어떻게 상호작용하는가?
• RQ3 크로스 디바이스 FL에서 적응형 연합 최적화기가 더 쉬운 튜닝과 더 나은 실험 성능을 제공하는가?

주요 결과

• 적응형 연합 최적화기가 비적응형 기법 대비 여러 태스크에서 크게 우수한 성능을 보이며, 특히 Stack Overflow NWP 및 LR와 같은 희소 그래디언트 설정에서 두드러진다.
• 대부분의 태스크에서 FedAdam과 FedYogi는 FedAvgM보다 더 빠른 초기 수렴 및 더 쉬운 튜닝을 제공한다.
• 이론적 결과는 Adagrad, Adam, Yogi를 서버 옵티마이저로 사용할 때 비볼록 설정에서 수렴 보장을 제시하며, 속도는 알려진 최적의 비볼록 FL 벤치마크와 일치한다.
• 로컬 업데이트(K)를 증가시키면 통신 라운드를 줄일 수 있으며, 이는 클라이언트 이질성(σ_g)의 trade-off에 의해 좌우된다.
• 실험 벤치마크 및 오픈 소스 구현은 FL 방법 간 재현 가능한 비교를 가능하게 한다.