[논문 리뷰] Client Selection for Generalization in Accelerated Federated Learning: A Multi-Armed Bandit Approach

Dan Ben Ami, Kobi Cohen외 1명|arXiv (Cornell University)|2023. 03. 18.

Advanced Bandit Algorithms Research인용 수 8

한 줄 요약

본 논문은 학습 지연 시간을 최소화하면서 일반화 성능을 보장하기 위해 Federated Learning(FL)에서 클라이언트를 선택하는 Bandit Scheduling for Federated Learning (BSFL) 알고리즘을 제안하며, 이론적 후회 보장과 실험적 검증을 제공한다.

ABSTRACT

Federated learning (FL) is an emerging machine learning (ML) paradigm used to train models across multiple nodes (i.e., clients) holding local data sets, without explicitly exchanging the data. It has attracted a growing interest in recent years due to its advantages in terms of privacy considerations, and communication resources. In FL, selected clients train their local models and send a function of the models to the server, which consumes a random processing and transmission time. The server updates the global model and broadcasts it back to the clients. The client selection problem in FL is to schedule a subset of the clients for training and transmission at each given time so as to optimize the learning performance. In this paper, we present a novel multi-armed bandit (MAB)-based approach for client selection to minimize the training latency without harming the ability of the model to generalize, that is, to provide reliable predictions for new observations. We develop a novel algorithm to achieve this goal, dubbed Bandit Scheduling for FL (BSFL). We analyze BSFL theoretically, and show that it achieves a logarithmic regret, defined as the loss of BSFL as compared to a genie that has complete knowledge about the latency means of all clients. Furthermore, simulation results using synthetic and real datasets demonstrate that BSFL is superior to existing methods.

연구 동기 및 목표

• 지연 시간과 일반화를 균형 있게 달성하기 위해 연합 학습에서 효율적인 클라이언트 선정의 필요성을 제고한다.
• 새로운 Bandit Scheduling for FL (BSFL) 알고리즘을 제안한다.
• 전체 대기 시간 지식을 가진 오라클에 상대적인 로그 후회를 보장하는 이론적 분석을 제공한다.
• 합성 및 실제 데이터에 대한 시뮬레이션을 통해 BSFL이 기존 방법보다 우수한 성능을 보임을 입증한다.

제안 방법

• 클라이언트 스케줄링을 다팔 밴딧 문제로 형식화한다.
• 일반화를 보존하면서 지연 시간을 최소화하도록 클라이언트를 선택하고 스케줄링하는 BSFL 알고리즘을 개발한다.
• 클라이언트 지연 지식을 가진 지니에 대해 로그 후회를 보장하는 이론적 분석을 증명하는 이론적 분석을 제공한다.
• 합성 및 실제 데이터 세트에서 기존 방법과의 비교를 위해 시뮬레이션으로 BSFL을 평가한다.

실험 결과

연구 질문

• RQ1 연합 학습에서 일반화를 해치지 않으면서 학습 지연 시간을 최소화하도록 클라이언트 선택을 어떻게 설계할 수 있는가?
• RQ2 FL에서 밴딧 기반의 클라이언트 선택 전략에 대해 어떤 후회 보장을 확립할 수 있는가?
• RQ3 합성 및 실제 데이터에서 BSFL이 기존 클라이언트 선택 방식보다 어떤 성능을 보이는가?
• RQ4 실무에서 BSFL가 거의 최적의 스케줄링을 달성하는 조건은 무엇인가?

주요 결과

• BSFL은 모든 클라이언트의 지연 평균을 알고 있는 오라클에 대한 로그형 후회를 달성한다.
• BSFL은 합성 및 실제 데이터 세트 모두에서 기존 방법보다 우수한 성능을 시뮬레이션에서 보인다.
• 이 접근법은 새로운 관측에 대한 모델의 일반화 능력을 유지하면서 지연 시간 감소를 균형 있게 달성한다.
• 제안된 스케줄링 전략의 효율성과 신뢰성을 뒷받침하는 이론적 분석이 제시된다.