[논문 리뷰] FedDR -- Randomized Douglas-Rachford Splitting Algorithms for Nonconvex Federated Composite Optimization

Quoc Tran-Dinh, Nhan H. Pham외 2명|arXiv (Cornell University)|2021. 03. 05.

Sparse and Compressive Sensing Techniques참고 문헌 49인용 수 12

한 줄 요약

이 논문은 비볼록 분산 복합 최적화를 위한 새로운 무작위 블록좌표 Douglas-Rachford 분할 알고리즘인 FedDR와 asyncFedDR를 제안한다. 비볼록 DR 분할과 부분적 및 비동기적 사용자 참여를 통합함으로써, 통신 복잡도를 $Ó(\varepsilon^{-2})$로 달성하며, 이는 이론적 하한선과 일치한다. 이는 통계적 이질성과 시스템 이질성, 부드럽지 않은 볼록 정규화 항, 그리고 정확하지 않은 프록시멀 평가를 모두 처리할 수 있다.

ABSTRACT

We develop two new algorithms, called, FedDR and asyncFedDR, for solving a fundamental nonconvex composite optimization problem in federated learning. Our algorithms rely on a novel combination between a nonconvex Douglas-Rachford splitting method, randomized block-coordinate strategies, and asynchronous implementation. They can also handle convex regularizers. Unlike recent methods in the literature, e.g., FedSplit and FedPD, our algorithms update only a subset of users at each communication round, and possibly in an asynchronous manner, making them more practical. These new algorithms can handle statistical and system heterogeneity, which are the two main challenges in federated learning, while achieving the best known communication complexity. In fact, our new algorithms match the communication complexity lower bound up to a constant factor under standard assumptions. Our numerical experiments illustrate the advantages of our methods over existing algorithms on synthetic and real datasets.

연구 동기 및 목표

• 각 통신 라운드에서 부분적 사용자 참여를 허용함으로써 분산 학습의 통신 병목 현상과 시스템 이질성을 해결한다.
• FedSplit과 FedPD와 같은 기존 방법들은 전체 사용자 참여가 필요로 하며 실제 환경에서는 덜 실용적이므로 이에 대한 한계를 극복한다.
• 볼록 정규화 항과 정확하지 않은 프록시멀 평가를 모두 지원하는 확장 가능하고 강건한 비볼록 분산 복합 최적화 프레임워크를 개발한다.
• 기본 가정 하에 최적의 통신 복잡도를 달성하면서도 이질적인 환경에서도 수렴 보장을 유지한다.
• 비동기 업데이트를 통해 느린 사용자나 변동하는 네트워크 조건으로 인한 대기 시간을 줄이고 시스템 내성력을 향상시킨다.

제안 방법

• 비볼록 복합 최적화를 위한 무작위 블록좌표 Douglas-Rachford 분할 알고리즘인 FedDR을 제안한다.
• 각 통신 라운드에서 사용자 무작위 선택을 통합하여 통신 오버헤드를 줄이고 확장성을 향상시킨다.
• 서버 측 집계에 프록시멀 기반 기울기 하강 단계를 사용하며, 표준 평균화와 다름을 이끌어내어 제약 조건과 정규화를 더 잘 처리할 수 있도록 한다.
• 사용자가 독립적으로 업데이트하고 비정규적인 간격으로 업데이트를 전송할 수 있도록 허용하는 비동기 버전인 asyncFedDR을 도입한다.
• 조정된 학습률과 로컬 에포크 수를 사용한 SGD를 통해 정확하지 않은 프록시멀 평가를 효율적으로 근사한다.
• 유한한 기울기와 기울기의 Lipschitz 연속성 등의 기본 가정 하에 수렴 보장을 유지한다.

실험 결과

연구 질문

• RQ1 무작위 블록좌표 Douglas-Rachford 분할 방법이 부분적 사용자 참여 하에 비볼록 분산 학습에서 최적의 통신 복잡도를 달성할 수 있는가?
• RQ2 제안된 FedDR 알고리즘이 통계적 이질성과 시스템 이질성 하에서 FedAvg, FedProx, FedSplit, FedPD와 비교해 어떻게 성능을 내는가?
• RQ3 비동기 버전인 asyncFedDR이 실제 네트워크 조건에서 FedDR와 동일한 수렴 속도와 통신 복잡도를 유지하는가?
• RQ4 정확한 프록시멀 연산을 근사하기 위해 SGD를 통해 정확하지 않은 프록시멀 평가를 얼마나 효과적으로 사용할 수 있으며, 이로 인해 수렴 성능이 떨어지는가?
• RQ5 사용자 샘플링 크기가 전송된 바이트 수와 통신 라운드 수 측면에서 통신 효율성과 모델 수렴에 어떤 영향을 미치는가?

주요 결과

• FedDR는 정적 점을 찾는 데 $Ó(\varepsilon^{-2})$의 통신 복잡도를 달성하며, 기본 가정 하에 알려진 하한선과 상수 인자 외에는 일치한다.
• FedSplit과 FedPD와 달리 부분적 사용자 참여 상황에서도 수렴과 성능를 유지한다.
• 수치 실험 결과, 비독립 동일 분포(NIID) 합성 데이터셋과 FEMNIST 데이터셋에서 FedAvg와 FedProx보다 FedDR이 뛰어난 성능를 보이며, 특히 높은 통계적 이질성 하에서 두각을 나타낸다.
• FEMNIST-62 클래스 데이터셋에서 asyncFedDR은 FedDR보다 낮은 손실과 높은 정확도를 달성하여 비동기성의 실세계 환경에서의 이점을 입증한다.
• 총 통신 비용(바이트 수) 기준으로 다양한 사용자 샘플링 크기에서도 성능가 안정적이며, 클라이언트 선택에 대한 강건성을 보여준다.
• 로컬 SGD의 학습률과 로컬 에포크 수 조정이 프록시멀 평가의 비정확성과 로컬 계산 비용 간 균형을 이루는 데 핵심적이다.