[논문 리뷰] Pisces: Efficient Federated Learning via Guided Asynchronous Training

Zhifeng Jiang, Wei Wang외 2명|arXiv (Cornell University)|2022. 06. 18.

Privacy-Preserving Technologies in Data인용 수 7

한 줄 요약

Pisces는 수렴 보장이 있는 유도적 참가자 선택 메커니즘을 통해 고품질 클라이언트를 지능적으로 선택하고 동적으로 오래됨을 제한함으로써 이방형 분산학습 시스템을 제안한다. 이는 대규모 비전 및 언어 모델 실험에서 동기 기반 기준 대비 최대 2.0배 빠른 정확도 도달 시간과 최신 이방형 방법 대비 1.9배 빠른 성능을 달성한다.

ABSTRACT

Federated learning (FL) is typically performed in a synchronous parallel manner, where the involvement of a slow client delays a training iteration. Current FL systems employ a participant selection strategy to select fast clients with quality data in each iteration. However, this is not always possible in practice, and the selection strategy often has to navigate an unpleasant trade-off between the speed and the data quality of clients. In this paper, we present Pisces, an asynchronous FL system with intelligent participant selection and model aggregation for accelerated training. To avoid incurring excessive resource cost and stale training computation, Pisces uses a novel scoring mechanism to identify suitable clients to participate in a training iteration. It also adapts the pace of model aggregation to dynamically bound the progress gap between the selected clients and the server, with a provable convergence guarantee in a smooth non-convex setting. We have implemented Pisces in an open-source FL platform called Plato, and evaluated its performance in large-scale experiments with popular vision and language models. Pisces outperforms the state-of-the-art synchronous and asynchronous schemes, accelerating the time-to-accuracy by up to 2.0x and 1.9x, respectively.

연구 동기 및 목표

• 동기 분산학습에서 클라이언트 속도와 데이터 품질 간의 본질적 상충 관계를 해결함으로써 학습 효율성을 제고하는 것.
• 전체 또는 무제한 클라이언트 참여를 특징으로 하는 기존 이방형 FL 시스템에서의 자원 낭비와 오래된 계산 문제를 해결하는 것.
• 참가자 선택과 모델 집계를 최적화하는 확장 가능하고 효율적이며 수학적으로 수렴 보장이 되는 이방형 FL 프레임워크를 설계하는 것.
• 동적으로 데이터 품질 인지 클라이언트 선택을 가능하게 하면서도 오래됨을 제한하여 수렴성과 모델 정확도를 유지하는 것.

제안 방법

• 학습 손실(데이터 품질의 대체 지표로 사용)과 군집화를 조합한 새로운 클라이언트 스코어링 메커니즘을 도입하여 손상되거나 악성 데이터를 가진 이방 클라이언트를 탐지하고 제외한다.
• 업데이트의 오래됨을 줄이기 위해 선택 스코어에 오래됨 페널티 요소를 통합함으로써 오래된 계산을 완화한다.
• 선택된 클라이언트와 서버 간의 진행 격차를 제한하기 위해 모델 집계 속도를 동적으로 조정함으로써 부드러운 비볼록 환경에서의 수렴을 보장한다.
• 클라이언트 학습 진행 예측 모델을 사용하여 오래됨을 추정하고 선택을 유도함으로써 실시간 동기화에 의존도를 낮춘다.
• 오픈소스 Plato FL 플랫폼과 통합하여 다양한 비전 및 언어 모델에서 종단 간 배포 및 평가를 가능하게 한다.
• 동기 및 이방형 프로토콜을 모두 지원하는 일반적인 FL 프레임워크 추상화를 활용하여 다양한 FL 설계 간 공정한 비교를 가능하게 한다.

실험 결과

연구 질문

• RQ1 이방형 분산학습이 수렴 보장을 유지하면서도 동기 방법보다 더 빠른 정확도 도달 시간을 달성할 수 있는가?
• RQ2 지연 클라이언트가 존재하는 상황에서 데이터 품질과 클라이언트 속도를 균형 있게 고려한 클라이언트 선택을 어떻게 최적화할 수 있는가?
• RQ3 학습 효율성을 희생시키지 않고 이방형 FL에서 오래됨을 효과적으로 제한할 수 있는 메커니즘은 무엇인가?
• RQ4 통합 프레임워크가 동기 및 이방형 FL 프로토콜을 모두 지원하면서도 일관된 성능 평가를 제공할 수 있는가?
• RQ5 데이터 손상 또는 악성 레이블 뒤집기 상황에서 시스템은 어떻게 작동하며, 이방 클라이언트를 유연하게 탐지하고 제외할 수 있는가?

주요 결과

• 대규모 실험에서 Pisces는 최신 동기 기반 FL 기법 대비 정확도 도달 시간을 최대 2.0배 빠르게 한다.
• 기존 최고의 이방형 기준 대비 최대 1.9배의 성능 향상을 달성하여 뛰어난 확장성과 효율성을 입증한다.
• 빠른 클라이언트가 낮은 데이터 품질을 가진 병리적 상황에서 Pisces는 최신 선택 전략인 Oort보다 최대 2.7배 빠른 성능을 보인다.
• 이상치 탐지 기능을 갖춘 Pisces(w/ rob.)는 그렇지 않은 변형 대비 더 높은 최종 정확도를 확보하며, 특히 5% 레이블 손상 상황에서 데이터 독성에 대한 강건성을 입증한다.
• 오래됨 페널티 요소($\beta$)는 다양한 작업에서 성능 향상에 기여한다 — 예를 들어 StackOverflow에는 $\beta=0.2$가 가장 우수하고, FEMNIST에는 $\beta=0.5$가 최적임을 보여주며, 이는 다양한 데이터 분포에 적응 가능함을 입증한다.
• 부드러운 비볼록 환경에서 수학적 수렴 보장을 유지하여 실무적 배포에 대한 이론적 신뢰성을 제공한다.