[논문 리뷰] Optimizing AI Service Placement and Resource Allocation in Mobile Edge Intelligence Systems

Zehong Lin, Suzhi Bi외 1명|arXiv (Cornell University)|2020. 11. 11.

IoT and Edge/Fog Computing참고 문헌 39인용 수 4

한 줄 요약

이 논문은 모바일 엣지 인텔리전스 시스템에서 AI 서비스 배치 및 자원 할당을 위한 최적화 프레임워크를 제안하며, 사용자에 대한 AI 프로그램의 전략적 배치와 CPU, 대역폭, 엣지 컴퓨팅 자원의 할당을 통해 계산 시간과 에너지를 동시에 최소화한다. 이 방법은 분석 기반 자원 할당과 확장 가능한 ADMM 기반 분해를 사용하여 대규모 네트워크에서 최적에 가까운 성능을 달성하면서도 선형 복잡도를 유지한다.

ABSTRACT

Leveraging recent advances on mobile edge computing (MEC), edge intelligence has emerged as a promising paradigm to support mobile artificial intelligence (AI) applications at the network edge. In this paper, we consider the AI service placement problem in a multi-user MEC system, where the access point (AP) places the most up-to-date AI program at user devices to enable local computing/task execution at the user side. To fully utilize the stringent wireless spectrum and edge computing resources, the AP sends the AI service program to a user only when enabling local computing at the user yields a better system performance. We formulate a mixed-integer non-linear programming (MINLP) problem to minimize the total computation time and energy consumption of all users by jointly optimizing the service placement (i.e., which users to receive the program) and resource allocation (on local CPU frequencies, uplink bandwidth, and edge CPU frequency). To tackle the MINLP problem, we derive analytical expressions to calculate the optimal resource allocation decisions with low complexity. This allows us to efficiently obtain the optimal service placement solution by search-based algorithms such as meta-heuristic or greedy search algorithms. To enhance the algorithm scalability in large-sized networks, we further propose an ADMM (alternating direction method of multipliers) based method to decompose the optimization problem into parallel tractable MINLP subproblems. The ADMM method eliminates the need of searching in a high-dimensional space for service placement decisions and thus has a low computational complexity that grows linearly with the number of users. Simulation results show that the proposed algorithms perform extremely close to the optimum and significantly outperform the other representative benchmark algorithms.

연구 동기 및 목표

• 개념 이동(Concept drift)으로 인해 오래된 모델이 추론 성능을 떨어뜨리는 모바일 엣지 컴퓨팅 환경에서 동적인 AI 모델 업데이트 문제를 해결한다.
• 다중 사용자 MEC 시스템에서 총 계산 시간과 에너지 소비를 최소화하기 위해 서비스 배치와 자원 할당을 공동 최적화한다.
• 필요한 경우에만 업데이트된 AI 프로그램을 선택적으로 배치함으로써 사용자 장치에서 로컬 AI 추론을 가능하게 하여 불필요한 오프로딩을 방지한다.
• ADMM를 사용하여 고차원의 서비스 배치 문제를 분해함으로써 대규모 네트워크에 대한 확장 가능한 솔루션을 설계한다.
• 모든 장치에 사전 존재하는 AI 프로그램을 전제로 하는 이전 연구의 한계를 극복하기 위해, 프로그램 유포를 최적화의 일부로 모델링한다.

제안 방법

• 서비스 배치, 로컬 CPU 주파수, 업링크 대역폭, 엣지 CPU 주파수를 공동 최적화하기 위해 혼합정수비선형계획문제(MINLP)를 수립한다.
• 주어진 서비스 배치 하에서 최적 자원 할당을 위한 분석적 표현을 유도하여 후보 배치의 빠른 평가를 가능하게 한다.
• 유도된 분석적 해를 기반으로 검색 기반 알고리즘(예: 근사적 또는 메타휴리스틱 알고리즘)을 사용하여 최적의 서비스 배치 결정을 찾는다.
• ADMM 기반 분해 방법을 도입하여 문제를 각 사용자별 하위문제로 분할함으로써 계산 복잡도를 감소시키고 병렬 처리를 가능하게 한다.
• ADMM를 사용하여 고차원의 서비스 배치 결정과 자원 할당을 분리함으로써 네트워크 크기에 따라 복잡도가 선형 증가하도록 한다.
• 동일한 네트워크 환경에서 업링크 채널 이득 기반 휴리스틱 기법을 제안하며, 특수한 경우에 최적에 가까운 성능을 보여준다.

실험 결과

연구 질문

• RQ1 다중 사용자 MEC 시스템에서 총 계산 시간과 에너지를 최소화하기 위해 AI 서비스 배치와 자원 할당을 어떻게 공동 최적화할 수 있는가?
• RQ2 동적인 AI 모델 업데이트와 개념 이동이 시스템 성능에 미치는 영향은 무엇이며, 지능적인 프로그램 배치를 통해 이를 어떻게 완화할 수 있는가?
• RQ3 최적성 손실 없이 대규모 네트워크에서 서비스 배치의 계산 복잡도를 어떻게 줄일 수 있는가?
• RQ4 사용자 장치에서 로컬 AI 추론이 엣지 서버로의 전체 오프로딩보다 더 효율적인 상황은 언제인가?
• RQ5 네트워크 크기, 작업 데이터 크기, 워크로드 변화에 따라 시스템 성능는 어떻게 변하고, 확장성의 상충 관계는 무엇인가?

주요 결과

• 제안된 알고리즘은 시뮬레이션에서 최적 해에 매우 가까운 성능를 달성하며, 기준 비교 방법보다 뚜렷이 뛰어난 성능를 보였다.
• ADMM 기반 방법은 사용자 수 증가에 따라 계산 복잡도가 선형으로 증가하여 대규모 네트워크에 매우 확장 가능하다.
• 작은 네트워크에서는 근사적 검색 방법이 효과적이지만, ADMM 기반 접근법은 병렬 처리 가능한 하위문제 덕분에 훨씬 더 우수한 확장성을 보였다.
• 채널 이득이 다양한 동일한 네트워크에서는 업링크 채널 품질이 열 劣한 사용자에 AI 프로그램을 배치함으로써 스펙트럼 효율성과 성능이 향상된다.
• 업링크 기반 휴리스틱 기법은 사용자가 채널 품질만 다를 경우 특수한 경우에 최적에 가까운 성능를 달성한다.
• 작업 데이터 크기, 계산 시간 가중 요소, 또는 사용자 수가 증가할수록 성능 향상이 두드러지지만, 워크로드가 매우 높아지면 성능 향상의 효과가 점점 감소한다.