[論文レビュー] Federated Learning with Regularized Client Participation

Grigory Malinovsky, Samuel Horváth+2 more|arXiv (Cornell University)|Feb 7, 2023

Privacy-Preserving Technologies in Data被引用数 5

ひとこと要約

本稿では、フェデレーテッドラーニングにおける正則化されたクライアント参加スキームを提案する。各クライアントはメタエポックごとに丁度1回参加するため、クライアントのサンプリングによる分散を低減する。FedAvgと組み合わせることで、標準的な仮定の下で任意のクライアントの利用可能性を想定しても、$\/mathcal{O}(1/T^2)$ の優れた収束速度を達成し、標準的手法の $\/mathcal{O}(1/T)$ よりも優れている。

ABSTRACT

Federated Learning (FL) is a distributed machine learning approach where multiple clients work together to solve a machine learning task. One of the key challenges in FL is the issue of partial participation, which occurs when a large number of clients are involved in the training process. The traditional method to address this problem is randomly selecting a subset of clients at each communication round. In our research, we propose a new technique and design a novel regularized client participation scheme. Under this scheme, each client joins the learning process every $R$ communication rounds, which we refer to as a meta epoch. We have found that this participation scheme leads to a reduction in the variance caused by client sampling. Combined with the popular FedAvg algorithm (McMahan et al., 2017), it results in superior rates under standard assumptions. For instance, the optimization term in our main convergence bound decreases linearly with the product of the number of communication rounds and the size of the local dataset of each client, and the statistical term scales with step size quadratically instead of linearly (the case for client sampling with replacement), leading to better convergence rate $\mathcal{O}\left(\frac{1}{T^2} ight)$ compared to $\mathcal{O}\left(\frac{1}{T} ight)$, where $T$ is the total number of communication rounds. Furthermore, our results permit arbitrary client availability as long as each client is available for training once per each meta epoch.

研究の動機と目的

• クロスデバイスのフェデレーテッドラーニングにおいて、数百万台のデバイスが利用可能でも、各ラウンドで一部のクライアントしか参加しないという部分的参加の課題に対処すること。
• FedAvgにおけるランダムなクライアントサンプリングによって生じる分散を、構造的で正則化された参加パターンを導入することで低減すること。
• クライアントレベルのランダムシャッフルを活用することで、集中学習における分散低減に類似した、より速い収束速度を達成すること。
• 各クライアントが1メタエポックごとに1回以上参加する限り、任意のクライアントの利用可能性に対しても収束保証を確保すること。
• 既存のサンプリングベースの手法よりも性能を向上させる一方で、ステートレスな動作を維持する手法を開発すること。

提案手法

• 各クライアントがR回の通信ラウンドごとに丁度1回参加するメタエポック構造を導入し、参加の正則化を実現する。
• メタエポック間で固定され周期的な順序でクライアントをシャッフルすることで、独立したサンプリングを回避する新しいクライアント選択戦略を設計する。
• 正則化されたクライアント参加をFedAvgに類似した更新と組み合わせ、ローカルステップ、ローカルデータセットのシャッフル、およびサーバーとクライアントの別々のステップサイズを組み込む。
• クライアントレベルのシャッフルを考慮し、ランダムサンプリングの期待値を避ける新しい分析フレームワークを用いて収束バウンドを導出する。
• Mishchenkoら（2020）の補題1を応用し、決定論的または非一様なクライアント順序であっても、クライアントシャッフルの分散をバウンドする。
• 各クライアントが1メタエポックごとに少なくとも1回はアクティブである限り、任意のクライアントの利用可能性を許容し、実世界の設定における実用性を高める。

実験結果

リサーチクエスチョン

• RQ1 構造的でi.i.d.でないクライアント参加パターンは、ランダムサンプリングと比較してフェデレーテッドラーニングにおける分散を低減できるか？
• RQ2 各クライアントが1メタエポックごとに1回参加する正則化された参加は、ランダムクライアントサンプリングを伴う標準的なFedAvgと比較して、より速い収束をもたらすか？
• RQ3 クライアントレベルのシャッフルをi.i.d.サンプリングではなく用いる場合、標準的な仮定の下で収束速度を $\\mathcal{O}(1/T^2)$ に向上させられるか？
• RQ4 間欠的または非一様な参加が生じる状況下でも、本手法はどのように動作するか？
• RQ5 理論的な改善は、異なるデータセットおよびクライアント設定において、実証的に検証可能か？

主な発見

• 提案されたRR-CLI手法は、ランダムサンプリングを伴う標準的なFedAvgの $\/mathcal{O}(1/T)$ よりも速い $\/mathcal{O}(1/T^2)$ の収束速度を達成する。
• 収束バウンドにおける最適化項は、通信ラウンド数とローカルデータセットサイズの積に線形に減少し、スケーラビリティが向上する。
• 統計項はステップサイズに対して二次的にスケーリングされるため、ノイズの影響が低減され、一般化性能が向上する。
• 各クライアントが1メタエポックごとに1回以上参加する限り、任意のクライアントの利用可能性に対しても収束保証が維持される。
• 理論的分析により、クライアントレベルのシャッフルによる分散低減効果が、$R$（メタエポック長）が大きい場合に特にタイトなバウンドをもたらすことが示された。
• 実験結果は理論的 findings を裏付け、a3a や w3a といった実世界のデータセットを用いたロジスティック回帰タスクにおいて、訓練性能の向上が確認された。