[論文レビュー] Client Selection for Generalization in Accelerated Federated Learning: A Multi-Armed Bandit Approach

Dan Ben Ami, Kobi Cohen+1 more|arXiv (Cornell University)|Mar 18, 2023

Advanced Bandit Algorithms Research被引用数 8

ひとこと要約

論文は、訓練遅延を最小化しつつ一般化を維持するために、Federated Learning（連邦学習）のクライアントを選択する Bandit Scheduling for Federated Learning（BSFL）アルゴリズムを提案し、理論的後悔保証と実証的検証を提供する。

ABSTRACT

Federated learning (FL) is an emerging machine learning (ML) paradigm used to train models across multiple nodes (i.e., clients) holding local data sets, without explicitly exchanging the data. It has attracted a growing interest in recent years due to its advantages in terms of privacy considerations, and communication resources. In FL, selected clients train their local models and send a function of the models to the server, which consumes a random processing and transmission time. The server updates the global model and broadcasts it back to the clients. The client selection problem in FL is to schedule a subset of the clients for training and transmission at each given time so as to optimize the learning performance. In this paper, we present a novel multi-armed bandit (MAB)-based approach for client selection to minimize the training latency without harming the ability of the model to generalize, that is, to provide reliable predictions for new observations. We develop a novel algorithm to achieve this goal, dubbed Bandit Scheduling for FL (BSFL). We analyze BSFL theoretically, and show that it achieves a logarithmic regret, defined as the loss of BSFL as compared to a genie that has complete knowledge about the latency means of all clients. Furthermore, simulation results using synthetic and real datasets demonstrate that BSFL is superior to existing methods.

研究の動機と目的

• 連邦学習における遅延と一般化のバランスを取るための効率的なクライアント選択の必要性を動機づける。
• 新規の Bandit Scheduling for FL（BSFL）アルゴリズムを提案する。
• 全遅延知識を持つオラクルに対する対数的後悔を示す理論解析を提供する。
• 合成データと実データのシミュレーションを通じて、BSFL が既存手法より優れていることを実証する。

提案手法

• クライアントスケジューリングを多腕バンディット問題として定式化する。
• 遅延を最小化しつつ一般化を維持するようにクライアントを選択・スケジュールする BSFL アルゴリズムを開発する。
• 遅延知識を持つ genie に対して対数的後悔を証明する理論解析を提供する。
• 合成データと実データセット上のシミュレーションで BSFL を評価し、既存手法と比較する。

実験結果

リサーチクエスチョン

• RQ1 連邦学習におけるクライアント選択をどのように設計すれば一般化を損なうことなく訓練遅延を最小化できるか？
• RQ2 FL におけるバンディットベースのクライアント選択戦略に対してどの程度の後悔保証が確立できるか？
• RQ3 BSFL は合成データと実データで既存のクライアント選択手法と比べてどのように性能が異なるか？
• RQ4 BSFL が実務でほぼ最適なスケジューリングを達成する条件は何か？

主な発見

• BSFL はすべてのクライアントの遅延平均を知るオラクルに対して対数的な後悔を達成する。
• BSFL は合成データセットと実データセットの両方のシミュレーションにおいて既存手法より優れた性能を示す。
• このアプローチは新しい観測に対するモデルの一般化能力を維持しつつ遅延削減を実現する。
• 理論解析は提案されたスケジューリング戦略の効率と信頼性を裏付ける。