[論文レビュー] Client Selection and Bandwidth Allocation in Wireless Federated Learning Networks: A Long-Term Perspective

Jie Xu, Heqiang Wang|arXiv (Cornell University)|Apr 9, 2020

Privacy-Preserving Technologies in Data参考文献 33被引用数 16

ひとこと要約

本稿では、時間的相関性とクライントのエネルギー制約を考慮した長期的視点に基づき、無線フェデレーテッドラーニングネットワークにおける共同クライント選択および帯域幅割り当てのためのオンラインアルゴリズムOCEANを提案する。Lyapunov最適化と仮想的エネルギー不足キューを活用することで、将来のチャネル状態を予測せず、現在のチャネル状態情報（CSI）のみを用いても、長期的な性能をほぼ最適化することができ、従来のラウンド単位の方法に比べて顕著に優れた性能を達成する。

ABSTRACT

This paper studies federated learning (FL) in a classic wireless network, where learning clients share a common wireless link to a coordinating server to perform federated model training using their local data. In such wireless federated learning networks (WFLNs), optimizing the learning performance depends crucially on how clients are selected and how bandwidth is allocated among the selected clients in every learning round, as both radio and client energy resources are limited. While existing works have made some attempts to allocate the limited wireless resources to optimize FL, they focus on the problem in individual learning rounds, overlooking an inherent yet critical feature of federated learning. This paper brings a new long-term perspective to resource allocation in WFLNs, realizing that learning rounds are not only temporally interdependent but also have varying significance towards the final learning outcome. To this end, we first design data-driven experiments to show that different temporal client selection patterns lead to considerably different learning performance. With the obtained insights, we formulate a stochastic optimization problem for joint client selection and bandwidth allocation under long-term client energy constraints, and develop a new algorithm that utilizes only currently available wireless channel information but can achieve long-term performance guarantee. Further experiments show that our algorithm results in the desired temporal client selection pattern, is adaptive to changing network environments and far outperforms benchmarks that ignore the long-term effect of FL.

研究の動機と目的

• 既存のフェデレーテッドラーニング（FL）リソース割り当て手法が各トレーニングラウンドを独立して扱い、長期的な相関性やクライントのエネルギー制限を無視するというギャップに対処すること。
• 均一、初期偏り、または後期偏りの時間的クライント選択パターンが、複数ラウンドにわたる最終的なFL性能に与える影響を調査すること。
• 変動する無線環境下で、クライントの有限エネルギー予算という長期的制約を満たす条件下で、共同クライント選択と帯域幅割り当てのための確率的最適化問題を定式化すること。
• 現在の無線チャネル状態情報のみを用いても、長期的な性能とエネルギー準拠を保証する実用的なオンラインアルゴリズムを設計すること。
• 後期のFLラウンドでより多くのクライントを選択することで、初期ラウンドでの選択に比べてモデル精度と耐障害性が向上することを検証すること。

提案手法

• 有限のクライントエネルギー予算と時間変動するチャネル状態の下で、クライント選択と帯域幅割り当てのための長期的確率的最適化問題を定式化する。
• 各クライントに対して仮想的エネルギー不足キューを導入し、長期的エネルギー制約をモデル化し、Lyapunov最適化を用いて問題をラウンドごとの部分問題の列に変換する。
• 現在のチャネル状態情報（CSI）のみを用いて、各ラウンドで有限個の凸最適化問題を解くオンラインアルゴリズムOCEANを開発し、低計算量とリアルタイム実行可能性を確保する。
• ドリフトプラスペナルティフレームワークを用いて、学習利得とエネルギーキュー安定性のバランスを図り、時間変動するペナルティ重み$ V_m $を導入して、時間経過に伴い学習性能を優先する。
• エネルギー不足キューを$ R $ラウンドごとにフレームベースでリセットするメカニズムを採用し、キュー長の有界性を維持し、エネルギー制約の準拠を保証する。
• 理論的性能バウンドを導出し、$ V_m $が増加するにつれて、アルゴリズムの累積的学習利得が最適なオフライン解に近づくことを示す。

実験結果

リサーチクエスチョン

• RQ1 各FLラウンドが最終的なモデル性能に与える寄与度は時間経過とともに変化するか？ もしそうならば、リソース割り当てはどのようにそれに適応すべきか？
• RQ2 相互に依存するラウンドとクライントのエネルギー予算を考慮した長期的最適化フレームワークは、従来のラウンド単位のリソース割り当てを上回る性能を発揮できるか？
• RQ3 後期のFLラウンドでより多くのクライントを選択することは、初期ラウンドでの選択に比べて、モデル精度と耐障害性の向上に寄与するか？
• RQ4 将来のチャネル状態を予測せず、現在のCSIのみを用いるオンラインアルゴリズムが、長期的な性能保証を達成できるか？
• RQ5 提案されたOCEANアルゴリズムは、時間的およびクライントごとの学習利得とエネルギー消費をどのようにバランスさせるか？

主な発見

• 実験の結果、後期のFLラウンドでより多くのクライントを選択することで、初期ラウンド選択に比べて高いモデル精度と低い訓練損失が達成され、耐障害性も向上することが示された。
• OCEANアルゴリズムは、最適なオフライン解からの累積的学習利得の差が$ O(1/V_m) $のオーダーで収束し、$ V_m $が増加するにつれて差が小さくなることが確認された。
• OCEANは、エネルギー不足キューの有界性により、各クライントの総エネルギー消費が有限の予算内に収束することを保証している。
• アルゴリズムは安定したキュー長を維持しており、$ q_k(mR+R) \leq \sqrt{2R(V_m \eta^t K + C_1)} $を満たし、長期的な実行可能性を保証している。
• OCEANは、長期的影響を無視するベンチマークアルゴリズムを上回り、特にチャネル状態が変動する動的ネットワーク環境下で顕著な優位性を示した。
• 理論的分析により、将来の知識がなくても、時間変動するチャネル状態下でアルゴリズムの性能が最適解に収束することが確認された。