[논문 리뷰] Edge Intelligence: Paving the Last Mile of Artificial Intelligence with Edge Computing

Zhi Zhou, Xu Chen외 4명|arXiv (Cornell University)|2019. 05. 24.

IoT and Edge/Fog Computing참고 문헌 108인용 수 98

한 줄 요약

이것은 에지 인텔리전스(에지 AI)에 대한 포괄적 설문으로, 동기, 정의, 아키텍처, 훈련/추론 접근법, 가능 기술, 그리고 네트워크 엣지로 AI를 확장하기 위한 미래 연구 방향을 요약합니다.

ABSTRACT

With the breakthroughs in deep learning, the recent years have witnessed a booming of artificial intelligence (AI) applications and services, spanning from personal assistant to recommendation systems to video/audio surveillance. More recently, with the proliferation of mobile computing and Internet-of-Things (IoT), billions of mobile and IoT devices are connected to the Internet, generating zillions Bytes of data at the network edge. Driving by this trend, there is an urgent need to push the AI frontiers to the network edge so as to fully unleash the potential of the edge big data. To meet this demand, edge computing, an emerging paradigm that pushes computing tasks and services from the network core to the network edge, has been widely recognized as a promising solution. The resulted new inter-discipline, edge AI or edge intelligence, is beginning to receive a tremendous amount of interest. However, research on edge intelligence is still in its infancy stage, and a dedicated venue for exchanging the recent advances of edge intelligence is highly desired by both the computer system and artificial intelligence communities. To this end, we conduct a comprehensive survey of the recent research efforts on edge intelligence. Specifically, we first review the background and motivation for artificial intelligence running at the network edge. We then provide an overview of the overarching architectures, frameworks and emerging key technologies for deep learning model towards training/inference at the network edge. Finally, we discuss future research opportunities on edge intelligence. We believe that this survey will elicit escalating attentions, stimulate fruitful discussions and inspire further research ideas on edge intelligence.

연구 동기 및 목표

• 전통적인 클라우드 AI를 넘어서는 에지 인텔리전스의 동기 부여와 정의 및 이점 제시.
• 클라우드 중심에서 모든 디바이스 실행에 이르기까지 다층 등급 프레임워크를 제안.
• 에지 AI 훈련 및 추론을 위한 아키텍처, 시스템, 프레임워크를 조사.
• 에지 인텔리전스를 진보시키기 위한 가능 기술과 남아있는 과제 식별.
• 에지 AI 연구 및 실무의 향후 방향 제시.

제안 방법

• 깊은 신경망 모델을 중심으로 배경 AI 개념에 대한 구조화된 설문조사를 제공합니다.
• 에지 인텔리전스를 정의하고 에지 AI 배치를 위한 여섯 수준의 등급(클라우드에서 모든 디바이스까지)을 도입합니다.
• 분산 DNN 훈련 아키텍처를 중앙집중형, 분산형, 하이브리드(클라우드-에지-디바이스)로 분류합니다.
• 에지 AI 모델 훈련 및 추론을 위한 아키텍처, 기법, 시스템을 검토합니다.
• 가능 기술들(예: 연합 학습, 그래디언트 압축, DNN 스플리팅)과 이들이 주요 성능 지표에 미치는 영향을 요약합니다.
• 에지 인텔리전스의 향후 기회와 남은 과제에 대해 논의합니다.

실험 결과

연구 질문

• RQ1 에지 인텔리전스의 동기, 정의 및 등급 체계는 무엇인가?
• RQ2 클라우드, 엣지, 디바이스 수준 전반에서 에지 AI 훈련과 추론을 지원하는 아키텍처와 가능 기술은 무엇인가?
• RQ3 지연, 프라이버시, 통신 비용, 에너지 효율성이 어떻게 상충되며, 적절한 해결책은 무엇인가?
• RQ4 에지 인텔리전스 연구 및 실무의 남은 과제와 향후 방향은 무엇인가?

주요 결과

• 에지 인텔리전스는 에지 컴퓨팅과 AI를 결합하여 데이터 소스에 근접한 에지 자원을 활용해 저지연, 프라이버시 의식적인 AI를 가능하게 한다.
• 클라우드 인텔리전스에서 모든 디바이스에서 실행까지의 여섯 수준 등급 프레임워크는 훈련과 추론이 어디에서 발생하는지와 각 수준에서 데이터 오프로깅이 어떻게 변하는지 분류하는 데 도움을 준다.
• 에지에서의 분산 DNN 훈련은 중앙집중형, 분산형 또는 하이브리드 아키텍처를 따를 수 있으며, 각기 다른 데이터 흐름과 프라이버시 함의를 가진다.
• 연합 학습, 그래디언트 압축, DNN 스플리팅, 지식 전이와 같은 가능 기술을 검토하여 훈련 효율성과 프라이버시를 향상시킨다.
• 에지 훈련의 주요 성능 지표(훈련 손실, 수렴, 프라이버시, 통신 비용, 지연, 에너지)와 이들의 상충 관계를 논의한다.
• 에지 인텔리전스의 남은 과제와 향후 방향을 식별하여 추가 연구와 실용적 배치를 촉진하는 것을 목표로 한다.