[論文レビュー] Low-Latency Broadband Analog Aggregation for Federated Edge Learning.

Guangxu Zhu, Yong Wang+1 more|arXiv (Cornell University)|Dec 30, 2018

Privacy-Preserving Technologies in Data参考文献 24被引用数 47

ひとこと要約

本稿では、複数アクセスチャネルの重ね合わせ特性を活用して通信遅延を低減する、フェデレーテッドエッジラーニングにおけるアナログオーバーザエアアグリゲーションを提案する。これにより、デバイス数の増加に伴い近似的に線形に遅延低減が達成される。同時にモデル更新の送信とアナログアグリゲーションを可能にすることで、特に機動性の高い環境におけるオピポートニスティックスケジューリングを伴う従来のOFDMA方式を上回る性能を発揮する。

ABSTRACT

The popularity of mobile devices results in the availability of enormous data and computational resources at the network edge. To leverage the data and resources, a new machine learning paradigm, called edge learning, has emerged where learning algorithms are deployed at the edge for providing fast and intelligent services to mobile users. While computing speeds are advancing rapidly, the communication latency is becoming the bottleneck of fast edge learning. To address this issue, this work is focused on designing a low latency multi-access scheme for edge learning. We consider a popular framework, federated edge learning (FEEL), where edge-server and on-device learning are synchronized to train a model without violating user-data privacy. It is proposed that model updates simultaneously transmitted by devices over broadband channels should be analog aggregated over-the-air by exploiting the superposition property of a multi-access channel. Thereby, interference is harnessed to provide fast implementation of the model aggregation. This results in dramatical latency reduction compared with the traditional orthogonal access (i.e., OFDMA). In this work, the performance of FEEL is characterized targeting a single-cell random network. First, due to power alignment between devices as required for aggregation, a fundamental tradeoff is shown to exist between the update-reliability and the expected update-truncation ratio. This motivates the design of an opportunistic scheduling scheme for FEEL that selects devices within a distance threshold. This scheme is shown using real datasets to yield satisfactory learning performance in the presence of high mobility. Second, both the multi-access latency of the proposed analog aggregation and the OFDMA scheme are analyzed. Their ratio, which quantifies the latency reduction of the former, is proved to scale almost linearly with device population.

研究の動機と目的

• 計算速度の著しい進歩にもかかわらず、エッジラーニングにおける通信遅延のボトル neck の増大に対処する。
• フェデレーテッドエッジラーニングにおける直交多重アクセス（例：OFDMA）の限界を克服し、同時に複数のモデル更新を送信可能にする。
• チャネルの重ね合わせを活用して、プライバシーを損なわず、モデル更新のアナログアグリゲーションを実現する低遅延マルチアクセス方式を設計する。
• デバイスの距離に基づくオピポートニスティックスケジューリング方式を考案し、機動性の高い環境における更新の信頼性と切り捨て率のトレードオフを最適化する。
• 単一セルのランダムネットワーク環境下で、アナログアグリゲーションとOFDMAの遅延低減を定量化し、特性を明らかにする。

提案手法

• 複数アクセスフェージングチャネルの重ね合わせ特性を活用し、複数デバイスが同時に送信するモデル更新のアナログアグリゲーションを実現する。
• エッジサーバーでの重ね合わせ信号がモデル更新の意味のある集約に対応するように、デバイス間での電力整合を実施する。
• 所定の距離閾値内にいるデバイスを選択するオピポートニスティックスケジューリング方式を導入し、更新の信頼性と切り捨て率のトレードオフを最適化する。
• 提案されたアナログアグリゲーションと従来のOFDMA方式の両方のマルチアクセス遅延を分析し、性能向上を定量化する。
• アナログアグリゲーションとOFDMAの間の遅延低減比を導出し、デバイス数にほぼ線形にスケーリングすることを証明する。
• 実世界のデータセットを用いてアプローチの妥当性を検証し、機動性の高い環境下でも高い頑健性を示すことを実証する。

実験結果

リサーチクエスチョン

• RQ1 チャネルの重ね合わせを用いたアナログオーバーザエアアグリゲーションは、フェデレーテッドエッジラーニングにおける通信遅延に関して、従来のOFDMAと比べてどのように異なるか？
• RQ2 アナログアグリゲーションにおける電力整合制約の下で、更新の信頼性と期待される更新切り捨て率の間には、どのような根本的トレードオフが存在するか？
• RQ3 オピポートニスティックスケジューリングは、低遅延を維持しつつ、機動性の高いエッジ環境における学習性能をどのように向上させ得るか？
• RQ4 参加デバイス数の増加に伴い、アナログアグリゲーションによる遅延低減はどの程度スケーリングするか？
• RQ5 現実的な単一セルネットワーク環境下で、デバイスの移動性はアナログアグリゲーションの性能にどのような影響を及ぼすか？

主な発見

• 提案されたアナログアグリゲーション方式は、デバイス数の増加に伴い、OFDMAと比較して遅延低減がほぼ線形にスケーリングすることを達成した。
• アナログアグリゲーションにおける電力整合の必要性から、更新の信頼性と期待される更新切り捨て率の間には根本的なトレードオフが存在することが明らかになった。
• 距離閾値に基づくオピポートニスティックスケジューリング方式は、実データセットによる検証を通じて、機動性の高い環境下でも良好な学習性能を達成した。
• アナログアグリゲーションとOFDMAの間の遅延低減比が、デバイス数にほぼ線形にスケーリングすることを証明した。
• オーバーザエアアナログアグリゲーションの導入により、直交アクセスと比較して通信遅延が顕著に低減され、低遅延エッジラーニングアプリケーションに適していることが示された。
• 本アプローチは、ユーザーのデータプライバシーを損なわず、デバイス間で迅速かつ同期されたモデルアグリゲーションを実現できる。