[論文レビュー] Energy-Efficient Radio Resource Allocation for Federated Edge Learning

Qunsong Zeng, Yuqing Du+2 more|arXiv (Cornell University)|Jul 13, 2019

Privacy-Preserving Technologies in Data参考文献 5被引用数 39

ひとこと要約

本論文は、FEELのためのエネルギー効率の高い無線資源管理を提案し、帯域割り当てとデバイススケジューリングを共同最適化して、学習速度を確保しつつ総エネルギー消費を最小化します。最適帯域割り当ては電力能力が弱いデバイスを優先し、スケジューリングはチャネルと計算能力がより良いデバイスを優先します。

ABSTRACT

Edge machine learning involves the development of learning algorithms at the network edge to leverage massive distributed data and computation resources. Among others, the framework of federated edge learning (FEEL) is particularly promising for its data-privacy preservation. FEEL coordinates global model training at a server and local model training at edge devices over wireless links. In this work, we explore the new direction of energy-efficient radio resource management (RRM) for FEEL. To reduce devices' energy consumption, we propose energy-efficient strategies for bandwidth allocation and scheduling. They adapt to devices' channel states and computation capacities so as to reduce their sum energy consumption while warranting learning performance. In contrast with the traditional rate-maximization designs, the derived optimal policies allocate more bandwidth to those scheduled devices with weaker channels or poorer computation capacities, which are the bottlenecks of synchronized model updates in FEEL. On the other hand, the scheduling priority function derived in closed form gives preferences to devices with better channels and computation capacities. Substantial energy reduction contributed by the proposed strategies is demonstrated in learning experiments.

研究の動機と目的

• FEELにおけるエネルギー消費と、電池容量が限られたエッジデバイスへの影響を動機づける研究。
• 帯域割り当てとデバイススケジューリングを結合することで、FEELの低エネルギー無線資源管理戦略を開発する。
• 同期アップデート制約の下で、帯域割り当てとデバイス優先度の閉形式の最適方針を導出する。
• 異種デバイスを含むFEELのシミュレーションを通じて、エネルギー削減と学習性能の向上を示す。

提案手法

• アップロードにOFDMAを用いた、1つのエッジサーバとK個のエッジデバイスを用いるFEELシステムをモデル化する。
• 時間および帯域制約の下でエネルギー最小化（アップロードエネルギーの和と固定のローカルトレーニングエネルギーを含む）を定式化する（P1）。
• 最適なアップロード時間は許容された時間をすべて使用することを示す（t_k^* = T_k）と、Lambert Wを用いた閉形式の帯域割り当てを導出する（定理1）。
• スケジューリング指標を導入してエネルギーと学習を考慮したスケジューリングに拡張し、緩和–丸めによって緩和された凸問題（P3）を解く。
• 閉形式の最適スケジューリング優先度（定理2）を提供し、帯域割り当て（P1）とスケジューリング（P4）を収束するまで交互に行うAlgorithm 1を提案する。

実験結果

リサーチクエスチョン

• RQ1 FEELにおける学習速度を犠牲にせず、無線資源をどのように割り当ててエネルギー消費を最小化できますか？
• RQ2 デバイスのチャネル利得と計算能力が異なる場合、最適な帯域割り当て方針は何ですか？
• RQ3 同期アップデート制約の下で、エネルギー使用と学習性能のバランスを取るためにデバイスをどのようにスケジュールすべきですか？
• RQ4 バイナリのスケジューリング変数を緩和し丸めアプローチを適用すると、解と学習結果にどのような影響がありますか？
• RQ5 提案手法と従来のレート最大化や全デバイス参加と比較したエネルギーおよび学習性能の利点は何ですか？

主な発見

• 最適な帯域割り当ては、時間制約を満たしエネルギーを最小化するため、計算能力が劣るデバイスやチャネルが劣るデバイスにより多くの帯域を配分します。
• 最適なアップロード時間は各デバイスの許容伝送ウィンドウをすべて使用します（t_k^* = T_k）。
• 閉形式の帯域表現はLambert W関数とラグランジュ乗数（ν^*）を含みます。
• エネルギーと学習の考慮を含むスケジューリングは、計算能力が高く、チャネルが良いデバイスを選択し、閉形式の優先度（β_k^*）で定量化されます。
• Algorithm 1による帯域割り当てとスケジューリングの結合は、シミュレーションで基準に対して最大で約98%のエネルギー削減を達成し、より多くのデバイスをスケジュールできる長い時間制約下で学習精度を向上させます。