[論文レビュー] Temporal-Structure-Assisted Gradient Aggregation for Over-the-Air Federated Edge Learning

Dian Fan, Xiaojun Yuan+1 more|arXiv (Cornell University)|Mar 3, 2021

Privacy-Preserving Technologies in Data参考文献 26被引用数 7

ひとこと要約

本稿では、マコフ確率モデルを用いてラウンド間の勾配更新の時間的相関を捉えることで、空中結合型フェデレーテッドエッジラーニング（FEEL）フレームワークとして、時間的構造支援勾配集約（TSA-GA）を提案する。ベイズ推論とメッセージパッシングを統合することで、低複雑性でありながらほぼ最適な復元性能を達成し、収束速度とテスト精度において、既存の最先端手法を著しく上回り、誤差なしのベンチマーク性能に近づく。

ABSTRACT

In this paper, we investigate over-the-air model aggregation in a federated edge learning (FEEL) system. We introduce a Markovian probability model to characterize the intrinsic temporal structure of the model aggregation series. With this temporal probability model, we formulate the model aggregation problem as to infer the desired aggregated update given all the past observations from a Bayesian perspective. We develop a message passing based algorithm, termed temporal-structure-assisted gradient aggregation (TSA-GA), to fulfil this estimation task with low complexity and near-optimal performance. We further establish the state evolution (SE) analysis to characterize the behaviour of the proposed TSA-GA algorithm, and derive an explicit bound of the expected loss reduction of the FEEL system under certain standard regularity conditions. In addition, we develop an expectation maximization (EM) strategy to learn the unknown parameters in the Markovian model. We show that the proposed TSAGA algorithm significantly outperforms the state-of-the-art, and is able to achieve comparable learning performance as the error-free benchmark in terms of both convergence rate and final test accuracy.

研究の動機と目的

• 不安定な無線チャネルを介するフェデレーテッドエッジラーニング（FEEL）における上行リンク通信負荷という、重要なボトル neck を解消すること。
• 従来無視されてきたラウンド間の勾配更新の時間的相関を活用し、集約精度と学習収束性を向上させること。
• ラウンド内スパarsityとラウンド間時間的構造の両方を活用した、低複雑性でオンラインの勾配復元アルゴリズムを開発すること。
• 標準的な正則性条件の下で、状態推移解析を用いて理論的性能バインディングを確立すること。
• 期待値最大化（EM）戦略を用いて、マコフ時間的モデルのパラメータを学習可能にする。

提案手法

• 勾配更新の時間的相関を捉えるためにマコフ確率モデルを用いることで、モデル集約問題をベイズ推論タスクとして定式化する。
• 過去の観測値から集約勾配の最小平均二乗誤差（MMSE）解を推定するための、メッセージパッシングに基づくアルゴリズム、TSA-GAを開発する。
• Turbo-CSフレームワークを拡張し、AMPベースの手法よりも収束性と性能が向上するオンラインスパース信号復元を実現する。
• アルゴリズムの挙動と収束ダイナミクスを特徴付ける明示的な状態推移方程式を導出する。
• マコフモデル内の未知パラメータをデータから学習するための期待値最大化（EM）戦略を導入する。
• 圧縮センシングの原則と時間的事前分布を組み合わせ、ノイズが混入した空中受信信号からグローバルモデル更新を再構成する。

実験結果

リサーチクエスチョン

• RQ1 ラウンド間の勾配更新における時間的相関は、空中結合型フェデレーテッドエッジラーニングの性能向上に有効に活用可能か？
• RQ2 トレーニングラウンド全体にわたる勾配更新の時間的構造を表現するため、どのようにマコフ事前分布モデルを構築できるか？
• RQ3 無線チャネルノイズの存在下でも、低複雑性のメッセージパッシングアルゴリズムがほぼ最適な勾配復元性能を達成できるか？
• RQ4 状態推移解析を用いて、提案アルゴリズムの理論的性能バインディングをどのように導出できるか？
• RQ5 EMに基づくアプローチを用いることで、観測された勾配系列から時間的モデルの未知パラメータをどれほど正確に学習できるか？

主な発見

• TSA-GAは、誤差なしベンチマークと同等の収束速度と最終テスト精度を達成し、既存の最先端手法を著しく上回る。
• 提案されたアルゴリズムは、低計算複雑性でありながらほぼ最適な性能を示し、リアルタイムのエッジデプロイメントに適している。
• 状態推移解析により、アルゴリズムの収束が確認され、標準的な正則性条件の下で期待される損失低減の理論的バインディングが得られた。
• EMに基づくパrameter学習戦略は、観測された勾配系列からマコフモデルの未知パラメータを効果的に推定できた。
• ラウンド間時間的相関とラウンド内スパarsityの統合により、スパarsityに依存する手法と比較して、勾配復元精度が顕著に向上した。
• 理論的解析から、期待勾配誤差が指数関数的に減少することが示され、FEELシステムの高速収束が保証された。