[論文レビュー] Federated Machine Learning for Intelligent IoT via Reconfigurable Intelligent Surface

Kai Yang, Yuanming Shi+4 more|arXiv (Cornell University)|Apr 13, 2020

Advanced Wireless Communication Technologies参考文献 14被引用数 14

ひとこと要約

本稿では、知的IoTネットワークにおける通信効率の良いフェデレーテッド機械学習のため、再構成可能知的表面（RIS）を支援する空中計算（AirComp）フレームワークを提案する。RISを活用することで信号強度を向上させ、モデル集約誤差を低減することで、従来のRISなしのAirCompと比較して、より低い訓練損失と高い予測精度を達成する。DCアルゴリズムにより、ビームフォーミングと位相シフトの共同最適化が効果的に行われる。

ABSTRACT

Intelligent Internet-of-Things (IoT) will be transformative with the advancement of artificial intelligence and high-dimensional data analysis, shifting from "connected things" to "connected intelligence". This shall unleash the full potential of intelligent IoT in a plethora of exciting applications, such as self-driving cars, unmanned aerial vehicles, healthcare, robotics, and supply chain finance. These applications drive the need of developing revolutionary computation, communication and artificial intelligence technologies that can make low-latency decisions with massive real-time data. To this end, federated machine learning, as a disruptive technology, is emerged to distill intelligence from the data at network edge, while guaranteeing device privacy and data security. However, the limited communication bandwidth is a key bottleneck of model aggregation for federated machine learning over radio channels. In this article, we shall develop an over-the-air computation based communication-efficient federated machine learning framework for intelligent IoT networks via exploiting the waveform superposition property of a multi-access channel. Reconfigurable intelligent surface is further leveraged to reduce the model aggregation error via enhancing the signal strength by reconfiguring the wireless propagation environments.

研究の動機と目的

• 無線チャネルにおけるスケジューリング制限と高い遅延により生じるフェデレーテッド機械学習の通信ボトルネックに対処する。
• 空中計算（AirComp）を活用し、多重アクセスチャネルの波形重ね合わせ特性を活用することで、フェデレーテッドラーニングにおけるモデル集約性能を向上させる。
• 再構成可能知的表面（RIS）を活用して無線伝搬環境を再構成することで、AirCompにおけるモデル集約誤差を低減する。
• 平均二乗誤差（MSE）の最小化を目的として、受信ビームフォーミングとRIS位相シフト行列の共同設計を最適化する。
• 実用的導入を念頭に、DCプログラミングと低ランク近似を用いた低複雑度で効果的な最適化フレームワークを開発する。

提案手法

• 複数のIoTデバイスが同時に局所的モデル更新を送信するのを可能にする空中計算（AirComp）を活用し、エッジサーバーで信号の重ね合わせにより重み付き平均を直接計算し、グローバルモデルの集約を実現する。
• 受信信号強度を向上させ、 fading を緩和するために、受動的反射素子を備えた再構成可能知的表面（RIS）を採用し、モデル集約誤差を低減する。
• RISを支援するAirCompシステムを、受信ビームフォーマとRIS位相シフト行列の設計を含む非凸な双二次最適化問題としてモデル化する。
• 反復的最適化手法として、DC（凸関数の差）アルゴリズムと低ランク近似を用いて、受信ビームフォーマとRIS位相シフトを交互に更新することで、計算複雑度を低減する。
• 性能比較のベンチマークとして、半定値緩和（SDR）アプローチを導入する。
• 20台のIoTデバイスでCIFAR-10データセットを用いてトレーニングしたサポートベクターマシン（SVM）分類器を用い、異なる設定下での学習性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 知的IoT向け空中フェデレーテッドラーニングにおいて、RISを効果的に活用してモデル集約誤差を低減できるか？
• RQ2 受信ビームフォーミングとRIS位相シフトの共同最適化が、フェデレーテッドラーニングの収束性と精度に与える影響は何か？
• RQ3 RISを活用したAirCompは、従来のRISなしのAirCompと比較して、訓練損失と予測精度の面でどの程度の性能向上を達成するか？
• RQ4 提案されたDCベースの最適化アルゴリズムは、SDRと比較して性能と複雑度の面でどの程度優れているか？
• RQ5 RISを用いた信号強化は、1ラウンドあたり参加可能なデバイス数を増やすことで、フェデレーテッドラーニングのスケーラビリティをどの程度向上できるか？

主な発見

• RISを活用したAirCompは、RISなしの従来のAirCompと比較して、顕著に低い訓練損失を達成しており、収束性とモデル品質の向上が確認された。
• SVM分類器の予測精度は、RISを活用した設定で顕著に向上しており、モデルの汎化性能と耐障害性の向上が裏付けられた。
• 提案されたDCベースの最適化手法は、モデル集約の平均二乗誤差（MSE）を効果的に最小化し、精度と収束速度の両面でSDRベンチマークを上回った。
• RISの活用によりモデル集約誤差が低減され、性能を劣化させることなく、1回の通信ラウンドあたりのデバイス選択数を増やすことが可能になった。これにより、スケーラビリティが向上した。
• シミュレーション結果から、RISを活用したAirCompは、理想状態の完全なモデル集約の性能に非常に近づいていることが示され、高い効率性と低い歪みを示した。
• 本フレームワークは、データのオフロードを回避し、物理層計算を活用することで、プライバシー保護型で低遅延かつ通信効率の良いフェデレーテッドラーニングを実現できる。