[論文レビュー] Resource Allocation of Federated Learning for the Metaverse with Mobile Augmented Reality

Xinyu Zhou, Chang Liu+1 more|arXiv (Cornell University)|Nov 16, 2022

Privacy-Preserving Technologies in Data被引用数 4

ひとこと要約

本論文は、メタバース内におけるモバイル拡張現実（MAR）システムにおけるフェデレーテッドラーニング（FL）のための共同リソース割り当てフレームワークを提案し、帯域幅、送信電力、CPU周波数、および動画解像度を最適化することで、エネルギー、遅延、モデル精度の重み付き組み合わせを最小化する。アルゴリズムは、特に厳密な時間制約下で、すべての指標においてベンチマークを上回る性能を示す。

ABSTRACT

The Metaverse has received much attention recently. Metaverse applications via mobile augmented reality (MAR) require rapid and accurate object detection to mix digital data with the real world. Federated learning (FL) is an intriguing distributed machine learning approach due to its privacy-preserving characteristics. Due to privacy concerns and the limited computation resources on mobile devices, we incorporate FL into MAR systems of the Metaverse to train a model cooperatively. Besides, to balance the trade-off between energy, execution latency and model accuracy, thereby accommodating different demands and application scenarios, we formulate an optimization problem to minimize a weighted combination of total energy consumption, completion time and model accuracy. Through decomposing the non-convex optimization problem into two subproblems, we devise a resource allocation algorithm to determine the bandwidth allocation, transmission power, CPU frequency and video frame resolution for each participating device. We further present the convergence analysis and computational complexity of the proposed algorithm. Numerical results show that our proposed algorithm has better performance (in terms of energy consumption, completion time and model accuracy) under different weight parameters compared to existing benchmarks.

研究の動機と目的

• メタバースを活用したモバイル拡張現実（MAR）アプリケーションにおいて、正確でプライバシーを守った物体検出モデルを訓練する課題に対処する。
• データの入手制限とプライバシー懸念を克服するため、MARシステムにフェデレーテッドラーニング（FL）を統合する。
• FL-MARシステムにおけるエネルギー消費、完了時間、モデル精度のバランスをとる共同最適化問題を定式化する。
• 各デバイスごとに帯域幅、送信電力、CPU周波数、および動画解像度を動的に割り当てるリソース割り当てアルゴリズムを設計する。
• 多目的最適化における重みパラメータの調整により、さまざまなアプリケーションシナリオに適応可能であることを保証する。

提案手法

• 総エネルギー、完了時間、モデル精度の重み付き和を最小化する非凸な多目的最適化問題を定式化する。
• 問題を2つの部分問題に分解する：送信リソース割り当てと計算リソース割り当てであり、反復的に解く。
• エネルギーと遅延のトレードオフの分式プログラミング性を扱うために、Dinkelbach法を用いる。
• 遅延と計算制約に基づいて導出された式に従い、各デバイスのCPU周波数を固定することで妥当性を確保する。
• 送信電力と帯域幅最適化における非凸性を扱うために、逐次凸近似（SCA）を適用する。
• 動画フレーム解像度を最適化変数として統合し、データ送信量を削減しながらもモデル性能を維持する。

Figure 1 : Federated learning with mobile augmented reality (FL-MAR) for the Metaverse.

実験結果

リサーチクエスチョン

• RQ1 帯域幅、送信電力、CPU周波数、および動画解像度の4つのリソースを統合的に最適化することで、エネルギー、遅延、精度のバランスをどのように達成できるか？
• RQ2 重みパラメータを変化させた場合、FL-MARシステムにおけるエネルギー効率、トレーニング完了時間、モデル精度のトレードオフにどのような影響を与えるか？
• RQ3 本手法のアルゴリズムは、送信エネルギーのみまたは計算エネルギーのみを最適化するベースライン手法と比べて、どのように差をつけるか？
• RQ4 どのような状況下で本手法のアルゴリズムが既存手法を顕著に上回るか、特に厳密な時間制約下での性能を評価する。
• RQ5 本手法のリソース割り当てアルゴリズムの収束特性と計算複雑度はどのようになるか？

主な発見

• 提案手法は、テストされたすべての重みパラメータにおいて、計算のみ最適化する方式と送信のみ最適化する方式よりも低い総エネルギー消費量を達成する。
• 送信エネルギーが総エネルギー消費量を支配しており、エネルギー削減の観点から送信リソース最適化が極めて重要である。
• 最大完了時間が短くなるほど、提案手法とベンチマーク（スケーム1）との性能差が拡大する。これは、タイトな遅延制約下でも優れた性能を発揮することを示している。
• 完了時間が150秒のとき、初期の高い送信電力設定の影響でエネルギー消費に非単調な傾向が見られるが、依然としてベースラインを上回る性能を示す。
• アルゴリズムは信頼性高く収束し、管理可能な計算複雑度を示しており、MARを活用するメタバースシステムにおけるリアルタイム導入に適している。
• 動画フレーム解像度の共同最適化は、全体のシステム性能を顕著に向上させる。この変数を除外すると効果が著しく低下する。

Figure 2 : Illustration of the 1st convolutional layer in a CNN. In this example, padding is 0 and stride is 1. $c_{0}$ is the default number of channels (e.g., in a color image, we have three channels). $c_{1}$ is the number of kernels, the same as the number of output channels. $m_{1}$ is calculat