[論文レビュー] Optimizing AI Service Placement and Resource Allocation in Mobile Edge Intelligence Systems

Zehong Lin, Suzhi Bi+1 more|arXiv (Cornell University)|Nov 11, 2020

IoT and Edge/Fog Computing参考文献 39被引用数 4

ひとこと要約

本稿は、モバイルエッジインテリジェンスシステムにおけるAIサービスポジショニングとリソース割り当ての最適化フレームワークを提案する。AIプログラムをユーザーに戦略的に配置し、CPU、帯域幅、エッジコンピューティングリソースを割り当てることで、計算時間とエネルギーを同時に最小化する。本手法は、解析的リソース割り当てとスケーラブルなADMMベースの分解を用い、大規模ネットワークにおいて線形の複雑さで近最適な性能を達成する。

ABSTRACT

Leveraging recent advances on mobile edge computing (MEC), edge intelligence has emerged as a promising paradigm to support mobile artificial intelligence (AI) applications at the network edge. In this paper, we consider the AI service placement problem in a multi-user MEC system, where the access point (AP) places the most up-to-date AI program at user devices to enable local computing/task execution at the user side. To fully utilize the stringent wireless spectrum and edge computing resources, the AP sends the AI service program to a user only when enabling local computing at the user yields a better system performance. We formulate a mixed-integer non-linear programming (MINLP) problem to minimize the total computation time and energy consumption of all users by jointly optimizing the service placement (i.e., which users to receive the program) and resource allocation (on local CPU frequencies, uplink bandwidth, and edge CPU frequency). To tackle the MINLP problem, we derive analytical expressions to calculate the optimal resource allocation decisions with low complexity. This allows us to efficiently obtain the optimal service placement solution by search-based algorithms such as meta-heuristic or greedy search algorithms. To enhance the algorithm scalability in large-sized networks, we further propose an ADMM (alternating direction method of multipliers) based method to decompose the optimization problem into parallel tractable MINLP subproblems. The ADMM method eliminates the need of searching in a high-dimensional space for service placement decisions and thus has a low computational complexity that grows linearly with the number of users. Simulation results show that the proposed algorithms perform extremely close to the optimum and significantly outperform the other representative benchmark algorithms.

研究の動機と目的

• 概念ずれによる推論性能の低下を引き起こす可能性がある動的AIモデル更新の課題に対処する。
• 複数ユーザーを対象としたMECシステムにおいて、サービスポジショニングとリソース割り当てを共同最適化することで、合計計算時間とエネルギー消費量を最小化する。
• 必要に応じてのみ更新されたAIプログラムをユーザー端末に配置することで、不要なオフロードを回避し、ユーザー端末でのローカルAI推論を可能にする。
• ADMMを用いた分解により、高次元のサービスポジショニング問題を分解することで、大規模ネットワーク向けにスケーラブルなソリューションを設計する。
• すべてのデバイスに事前にAIプログラムが存在すると仮定する従来の手法の制限を克服するため、プログラム配布を最適化の一部としてモデル化する。

提案手法

• サービスポジショニング、ローカルCPU周波数、上行帯域幅、エッジCPU周波数を共同最適化するため、混合整数非線形プログラミング（MINLP）問題を定式化する。
• 与えられたサービスポジショニングにおける最適リソース割り当ての解析的表現を導出することで、候補となるポジショニングの迅速な評価を可能にする。
• 導出された解析的解を用いて、探索ベースのアルゴリズム（例：貪欲法やメタヒューリスティック）を用いて最適なサービスポジショニング意思決定を特定する。
• ADMMに基づく分解法を提案し、問題をユーザーごとの部分問題に分割することで、計算複雑度を低減し、並列処理を可能にする。
• ADMMを用いて高次元のサービスポジショニング意思決定とリソース割り当てを分離し、ネットワークサイズに比例して複雑度が線形に増加するようにする。
• 均質的ネットワークにおける上行リンクチャネルゲインに基づくヒューリスティックスキームを導入し、特定の状況で近最適な性能を示す。

実験結果

リサーチクエスチョン

• RQ1 複数ユーザーを対象としたMECシステムにおいて、AIサービスポジショニングとリソース割り当てをどのように共同最適化すれば、合計計算時間とエネルギーを最小化できるか？
• RQ2 動的AIモデル更新と概念ずれがシステム性能に与える影響は何か。また、知的なプログラムポジショニングによってどのように緩和できるか？
• RQ3 最適性を損なわずに、大規模ネットワークにおけるサービスポジショニングの計算複雑度をどのように低減できるか？
• RQ4 ユーザー端末でのローカルAI推論がエッジサーバーへの完全なオフロードよりも効率的となる状況はどのようなものか？
• RQ5 ネットワークサイズ、タスクデータサイズ、ワークロードの変化に伴い、システム性能はどのように変化するか。スケーラビリティのトレードオフは何か？

主な発見

• 提案されたアルゴリズムは最適解に極めて近く、シミュレーションにおいてベンチマーク手法を著しく上回る性能を達成する。
• ADMMベースの手法は、ユーザー数に比例して計算複雑度が線形に増加するため、大規模ネットワークにおいて非常にスケーラブルである。
• 貪欲探索法は小規模ネットワークにおいて有効であるが、並列処理可能な部分問題を有するADMMベースのアプローチの方がはるかに優れたスケーラビリティを示す。
• チャネルゲインが異なる均質的ネットワークでは、上行リンクが劣悪なユーザーにAIプログラムを配置することで、スケジューリング効率と性能が向上する。
• 上行リンクに基づくヒューリスティックスキームは、ユーザーがチャネル品質のみで異なる特別な状況で近最適な性能を達成する。
• タスクデータサイズ、計算時間の重み係数、またはユーザー数が増加する際、性能向上が顕著に現れるが、ワークロードが非常に高くなるとその恩恵は薄れる。