[论文解读] Optimizing AI Service Placement and Resource Allocation in Mobile Edge Intelligence Systems

Zehong Lin, Suzhi Bi+1 more|arXiv (Cornell University)|Nov 11, 2020

IoT and Edge/Fog Computing参考文献 39被引用 4

一句话总结

本文提出了一种面向移动边缘智能系统中AI服务部署与资源分配的优化框架，通过战略性地将AI程序部署在用户设备上并分配CPU、带宽和边缘计算资源，联合最小化计算时间和能耗。该方法采用解析式资源分配与可扩展的ADMM分解技术，实现在大规模网络中接近最优性能且时间复杂度为线性。

ABSTRACT

Leveraging recent advances on mobile edge computing (MEC), edge intelligence has emerged as a promising paradigm to support mobile artificial intelligence (AI) applications at the network edge. In this paper, we consider the AI service placement problem in a multi-user MEC system, where the access point (AP) places the most up-to-date AI program at user devices to enable local computing/task execution at the user side. To fully utilize the stringent wireless spectrum and edge computing resources, the AP sends the AI service program to a user only when enabling local computing at the user yields a better system performance. We formulate a mixed-integer non-linear programming (MINLP) problem to minimize the total computation time and energy consumption of all users by jointly optimizing the service placement (i.e., which users to receive the program) and resource allocation (on local CPU frequencies, uplink bandwidth, and edge CPU frequency). To tackle the MINLP problem, we derive analytical expressions to calculate the optimal resource allocation decisions with low complexity. This allows us to efficiently obtain the optimal service placement solution by search-based algorithms such as meta-heuristic or greedy search algorithms. To enhance the algorithm scalability in large-sized networks, we further propose an ADMM (alternating direction method of multipliers) based method to decompose the optimization problem into parallel tractable MINLP subproblems. The ADMM method eliminates the need of searching in a high-dimensional space for service placement decisions and thus has a low computational complexity that grows linearly with the number of users. Simulation results show that the proposed algorithms perform extremely close to the optimum and significantly outperform the other representative benchmark algorithms.

研究动机与目标

• 解决移动边缘计算中动态AI模型更新的挑战，其中过时模型因概念漂移导致推理性能下降。
• 通过联合优化服务部署与资源分配，在多用户MEC系统中最小化总计算时间与能耗。
• 通过仅在有益时选择性地将更新后的AI程序部署在用户设备上，实现用户设备上的本地AI推理，避免不必要的卸载。
• 通过使用ADMM对高维服务部署问题进行分解，设计适用于大规模网络的可扩展解决方案。
• 克服先前研究假设所有设备均预置AI程序的局限性，将程序分发过程建模为优化问题的一部分。

提出的方法

• 建立混合整数非线性规划（MINLP）问题，联合优化服务部署、本地CPU频率、上行链路带宽与边缘CPU频率。
• 推导在给定服务部署下最优资源分配的解析表达式，实现对候选部署方案的快速评估。
• 采用基于搜索的算法（如贪心或元启发式算法）结合推导出的解析解，寻找最优服务部署决策。
• 提出基于ADMM的分解方法，将问题分解为用户级子问题，降低计算复杂度并支持并行处理。
• 利用ADMM将高维服务部署决策与资源分配解耦，实现计算复杂度随网络规模线性增长。
• 针对同质网络提出一种基于上行链路信道增益的启发式方案，在特定情况下表现出接近最优的性能。

实验结果

研究问题

• RQ1 如何联合优化AI服务部署与资源分配，以最小化多用户MEC系统中的总计算时间与能耗？
• RQ2 动态AI模型更新与概念漂移对系统性能有何影响，如何通过智能程序部署加以缓解？
• RQ3 如何在不牺牲最优性的情况下降低大规模网络中服务部署的计算复杂度？
• RQ4 在何种场景下，用户设备上的本地AI推理比完全卸载到边缘服务器更高效？
• RQ5 系统性能如何随网络规模、任务数据大小与工作负载变化，其可扩展性权衡为何？

主要发现

• 所提出的算法性能极为接近最优解，在仿真中显著优于基准方法。
• 基于ADMM的方法在用户数量增加时表现出线性计算复杂度增长，使其在大规模网络中具有高度可扩展性。
• 贪心搜索方法在小规模网络中有效，而ADMM方法因子问题可并行处理，在扩展性方面表现更优。
• 在上行链路信道质量差异的同质网络中，将AI程序部署在上行链路较差的用户设备上可提升频谱效率与系统性能。
• 在仅用户间信道质量不同的特殊情况下，基于上行链路的启发式方案可实现接近最优性能。
• 当任务数据大小、计算时间权重因子或用户数量增加时，性能增益最为显著，但随着工作负载极高时增益趋于饱和。