[논문 리뷰] FedSSO: A Federated Server-Side Second-Order Optimization Algorithm

Xin Ma, Renyi Bao외 6명|arXiv (Cornell University)|2022. 06. 20.

Stochastic Gradient Optimization Techniques인용 수 7

한 줄 요약

FedSSO는 페더레이티드 러닝을 위한 새로운 서버 사이드 2차 최적화 알고리즘을 제안하며, 글로벌 헤시안 행렬 근사치를 중앙에서 계산함으로써 클라이언트 측 2차 통신을 제거하고 서버로 계산 부담을 이관합니다. 볼록 및 비볼록 Non-IID 환경에서 높은 통신 효율성을 확보하며 O(1/k) 수렴 속도를 달성합니다.

ABSTRACT

In this work, we propose FedSSO, a server-side second-order optimization method for federated learning (FL). In contrast to previous works in this direction, we employ a server-side approximation for the Quasi-Newton method without requiring any training data from the clients. In this way, we not only shift the computation burden from clients to server, but also eliminate the additional communication for second-order updates between clients and server entirely. We provide theoretical guarantee for convergence of our novel method, and empirically demonstrate our fast convergence and communication savings in both convex and non-convex settings.

연구 동기 및 목표

• 비독립 동일 분포(Non-IID) 데이터 분포에서 페더레이티드 러닝의 2차 최적화 방법이 유발하는 높은 통신 오버헤드와 계산 부담을 해결합니다.
• 클라이언트 측 계산과 통신을 줄이기 위해 헤시안 근사치를 서버에 집중화합니다.
• 클라이언트가 2차 정보를 전송할 필요 없이도 비독립 동일 분포 FL 환경에서 수렴 속도와 안정성을 향상시킵니다.
• 페더레이티드 러닝에서 서버 측 Quasi-Newton 방법의 이론적 수렴 보장을 제공합니다.
• 클라이언트에서 2차 계산을 서버로 이관함으로써 자원 제약이 있는 엣지 환경에서도 효율적인 훈련을 가능하게 합니다.

제안 방법

• FedSSO는 클라이언트가 로컬 업데이트를 수행하고 서버로 오직 기울기만 전송하는 FedAvg 유사 워크플로우를 사용합니다.
• 서버는 클라이언트 기울기를 집계하여 글로벌 기울기 추정치를 계산합니다.
• 기울기 차이를 이용해 서버에서 Quasi-Newton 방법을 적용하여 글로벌 헤시안 행렬을 근사화하며, 클라이언트의 헤시안 데이터가 필요하지 않습니다.
• 서버는 근사된 헤시안을 사용해 Quasi-Newton 강하를 수행하고 업데이트된 글로벌 모델을 클라이언트로 다시 전송합니다.
• 클라이언트와 서버 간 헤시안 또는 곡률 정보의 통신을 완전히 회피함으로써 통신 비용을 감소시킵니다.
• 이론적 분석 결과, 표준 가정 하에 O(1/k) 수렴 속도를 확보하였으며, 이는 스트로스틱 Quasi-Newton 방법과 유사합니다.

실험 결과

연구 질문

• RQ1 서버 측 2차 최적화 방법이 페더레이티드 러닝에서 클라이언트 측 헤시안 통신이 필요 없도록 할 수 있는가?
• RQ2 헤시안 근사치를 서버에 집중화함으로써 Non-IID FL 환경에서 수렴 속도와 통신 효율성이 향상되는가?
• RQ3 클라이언트에서 2차 계산을 서버로 이관함으로써 FedSSO가 수렴 보장을 유지할 수 있는가?
• RQ4 수렴 성능와 통신 비용 측면에서 FedSSO는 1차 최적화 및 기존 2차 최적화 FL 방법보다 어떻게 비교되는가?
• RQ5 Non-IID 데이터 하에서 페더레이티드 러닝에서 서버 측 Quasi-Newton 방법의 이론적 수렴 속도는 무엇인가?

주요 결과

• FedSSO는 O(1/k) 수렴 속도를 확보하였으며, 이는 스트로스틱 Quasi-Newton 방법의 이론적 속도와 동일합니다.
• 클라이언트와 서버 간 헤시안 또는 2차 항의 전부 통신을 제거하여 통신 오버헤드를 크게 감소시켰습니다.
• 실증 결과, 볼록 및 비볼록 환경에서 Non-IID 데이터 하에서 FedAvg 및 기타 1차 최적화 방법보다 더 빠른 수렴을 보였습니다.
• 높은 데이터 이질성 하에서도 안정성과 성능을 유지하였으며, 수렴 속도에서 FedProx와 Scaffold를 능가했습니다.
• 이론적 분석을 통해 표준 가정 하에 수렴이 보장되었으며, 이는 기울기 분산, 리프시츠 상수 및 조건수에 따라 결정되는 경계를 포함합니다.
• 2차 계산을 서버로 이관함으로써 FedSSO는 클라이언트가 헤시안 계산을 처리할 수 없는 자원 제약이 있는 엣지 환경에서도 구현 가능하게 하였습니다.