[논문 리뷰] Anarchic Federated Learning

Haibo Yang, Xin Zhang외 2명|arXiv (Cornell University)|2021. 08. 23.

Privacy-Preserving Technologies in Data참고 문헌 39인용 수 6

한 줄 요약

이 논문은 엣지 환경에서 이질적인 환경에서도 영향력 있는 분산 학습을 가능하게 하는 새로운 FL 패러다임인 애너키즘 페더레이티드 러닝(AFL)을 소개한다. 작업자들이 참여 시점과 국소 업데이트 스텝을 자율적으로 선택함으로써 유연하고 탈중앙화된 학습을 가능하게 한다. 미약한 애너키즘 가정 하에 최적의 수렴 속도와 선형 속도 향상을 달성하는 두 가지 수렴 알고리즘 AFA-CD와 AFA-CS를 제안하며, 작업자 간 이질성과 동적 계산 환경에도 불구하고 최신 기술 수준의 성능을 유지한다.

ABSTRACT

Present-day federated learning (FL) systems deployed over edge networks consists of a large number of workers with high degrees of heterogeneity in data and/or computing capabilities, which call for flexible worker participation in terms of timing, effort, data heterogeneity, etc. To satisfy the need for flexible worker participation, we consider a new FL paradigm called "Anarchic Federated Learning" (AFL) in this paper. In stark contrast to conventional FL models, each worker in AFL has the freedom to choose i) when to participate in FL, and ii) the number of local steps to perform in each round based on its current situation (e.g., battery level, communication channels, privacy concerns). However, such chaotic worker behaviors in AFL impose many new open questions in algorithm design. In particular, it remains unclear whether one could develop convergent AFL training algorithms, and if yes, under what conditions and how fast the achievable convergence speed is. Toward this end, we propose two Anarchic Federated Averaging (AFA) algorithms with two-sided learning rates for both cross-device and cross-silo settings, which are named AFA-CD and AFA-CS, respectively. Somewhat surprisingly, we show that, under mild anarchic assumptions, both AFL algorithms achieve the best known convergence rate as the state-of-the-art algorithms for conventional FL. Moreover, they retain the highly desirable {\em linear speedup effect} with respect of both the number of workers and local steps in the new AFL paradigm. We validate the proposed algorithms with extensive experiments on real-world datasets.

연구 동기 및 목표

• 서버 중심의 페더레이티드 러닝의 한계를 해결하기 위해, 동기화된 작업자 참여와 고도의 조율이 요구되는 기존 방식의 고비용 조율을 줄이기 위해.
• 작업자들이 이질적인 능력, 동적 가용성, 다양한 자원 제약 조건을 가진 엣지 네트워크에서 영향력 있는 분산 학습을 가능하게 하기 위해.
• 참여 시점과 국소 스텝이 작업자에 의해 제어되고 비동기적으로 작동하는 애너키즘 작업자 행동 조건 하에서 수렴 가능한 FL 알고리즘을 개발하기 위해.
• 애너키즘 조건 하에서도 작업자 수와 국소 스텝 수에 대해 수렴 시간이 선형적으로 감소하는 선형 속도 향상 효과를 유지하기 위해.
• 비-i.i.d. 데이터와 동적 작업자 참여 조건 하에서 실제 데이터셋을 대상으로 제안된 알고리즘을 검증하기 위해.

제안 방법

• 크로스-디바이스(AFA-CD) 및 크로스-실로(AFA-CS) 환경에서 비동기 작업자 업데이트를 처리하기 위해 양방향 학습률을 사용하는 애너키즘 페더레이티드 평균화(AFA)를 제안한다.
• 작업자 참여 빈도와 국소 스텝 수에 따라 들어오는 모델 업데이트를 동적으로 가중치 조정하는 서버 측 집계 규칙을 설계하여, 시간에 따라 변하는 작업자 행동 조건 하에서도 수렴을 보장한다.
• 비동기적이고 비균일한 작업자 참여 및 변동하는 국소 스텝을 고려한 새로운 수렴 분석 프레임워크를 도입하며, 미약한 애너키즘 가정 하에서의 수렴을 증명한다.
• 양방향 학습률을 활용: 하나는 작업자 측 국소 업데이트에 사용하고, 다른 하나는 서버 측 모델 평균화에 사용하여, 작업자 이질성과 비동기성에 대한 강건성을 확보한다.
• FedProx와 SCAFFOLD와 같은 기존 FL 최적화 알고리즘을 AFA 프레임워크에 통합하여 최소한의 수정으로 AFL에서 사용할 수 있도록 한다.
• 다양한 작업자 도착 프로세스를 시뮬레이션하고 데이터 및 참여 편향에 대한 강건성을 평가하기 위해 균일 및 편향된 샘플링 전략을 사용한다.

실험 결과

연구 질문

• RQ1 작업자들이 참여 시점과 국소 업데이트 스텝을 독립적으로 선택할 경우, 페더레이티드 러닝에서 수렴 가능한 학습을 달성할 수 있는가?
• RQ2 제안된 알고리즘이 어떤 조건에서 수렴을 유지하며, 애너키즘 환경에서 달성 가능한 수렴 속도는 무엇인가?
• RQ3 애너키즘 FL 패러다임은 여전히 작업자 수와 국소 스텝 수에 대해 선형 속도 향상 효과를 지원하는가?
• RQ4 동적 및 비동기적 작업자 행동 조건 하에서 FedProx와 SCAFFOLD와 같은 고급 최적화 알고리즘을 사용할 때 AFL의 성능은 기존 FL과 비교해 어떻게 되는가?
• RQ5 편향된 작업자 도착 프로세스와 오래된 기울기(grad)는 AFL에서 모델 수렴과 정확도에 어떤 영향을 미치는가?

주요 결과

• 제안된 AFA-CD 및 AFA-CS 알고리즘은 미약한 애너키즘 가정 하에서 비볼록 문제에 대해 O(1/T)의 최고 수준의 수렴 속도를 달성하며, 서버 중심의 최신 기술 수준의 FL 알고리즘과 동일한 성능을 보인다.
• AFA-CD 및 AFA-CS는 모두 선형 속도 향상 효과를 유지한다: 작업자 수와 국소 스텝 수가 증가함에 따라 수렴 시간이 선형적으로 감소하며, 비동기적이고 동적 작업자 참여 조건 하에서도 성립한다.
• 실험 결과에 따르면, AFL에 통합된 FedProx는 FedAvg와 유사한 성능을 유지하며, MNIST와 CIFAR-10에서 비-i.i.d. 수준이 다양하더라도 정확도 저하 없이 안정적인 성능을 보인다.
• SCAFFOLD 기반의 AFL은 높은 비-i.i.i.d. 수준(p=1)의 CNN에서 성능 저하를 보이며, 부분 참여 시 오래된 제어 변수의 영향으로 인해 발생할 가능성이 있다. 그러나 낮은 비-i.i.d. 설정에서는 성능이 안정적으로 유지된다.
• 작업자 도착 프로세스에서의 편향된 샘플링은 높은 비-i.i.d. 데이터에서 성능을 저하시키지만, 분산 감소 기법을 적용한 AFA-CS 변형은 MNIST에서는 뛰어난 성능을 유지하고, CIFAR-10에서는 중간 수준의 성능을 보이며, 부분적인 강건성을 입증한다.
• 실험을 통해 AFL이 FedProx 및 SCAFFOLD를 사용할 경우, 비동기 조건과 동적 국소 스텝 조건 하에서도 다양한 설정, 특히 Shakespeare 및 CIFAR-10과 같은 실제 데이터셋에서 높은 테스트 정확도를 유지함을 확인했다.