[論文レビュー] Edge Intelligence: Paving the Last Mile of Artificial Intelligence with Edge Computing

Zhi Zhou, Xu Chen+4 more|arXiv (Cornell University)|May 24, 2019

IoT and Edge/Fog Computing参考文献 108被引用数 98

ひとこと要約

これは、edge intelligence (edge AI) の包括的な調査であり、ネットワークのエッジへのAIの推進に関する動機、定義、アーキテクチャ、トレーニング/推論アプローチ、実現技術、そして将来の研究方向を概説します。

ABSTRACT

With the breakthroughs in deep learning, the recent years have witnessed a booming of artificial intelligence (AI) applications and services, spanning from personal assistant to recommendation systems to video/audio surveillance. More recently, with the proliferation of mobile computing and Internet-of-Things (IoT), billions of mobile and IoT devices are connected to the Internet, generating zillions Bytes of data at the network edge. Driving by this trend, there is an urgent need to push the AI frontiers to the network edge so as to fully unleash the potential of the edge big data. To meet this demand, edge computing, an emerging paradigm that pushes computing tasks and services from the network core to the network edge, has been widely recognized as a promising solution. The resulted new inter-discipline, edge AI or edge intelligence, is beginning to receive a tremendous amount of interest. However, research on edge intelligence is still in its infancy stage, and a dedicated venue for exchanging the recent advances of edge intelligence is highly desired by both the computer system and artificial intelligence communities. To this end, we conduct a comprehensive survey of the recent research efforts on edge intelligence. Specifically, we first review the background and motivation for artificial intelligence running at the network edge. We then provide an overview of the overarching architectures, frameworks and emerging key technologies for deep learning model towards training/inference at the network edge. Finally, we discuss future research opportunities on edge intelligence. We believe that this survey will elicit escalating attentions, stimulate fruitful discussions and inspire further research ideas on edge intelligence.

研究の動機と目的

• edge intelligence の動機づけと定義、従来のクラウドAIを超える利点の説明。
• クラウド中心から全てデバイス上での実行までを網羅する、edge intelligence の多段階評価フレームワークの提案。
• edge AI のトレーニングと推論のためのアーキテクチャ、システム、フレームワークの調査。
• edge intelligence を進展させるための実現技術と未解決の課題の特定。
• edge AI の研究と実務の将来の方向性を強調。

提案手法

• 深層学習モデルを中心に、背景となるAI概念の体系的な調査を提供。
• edge intelligence を定義し、edge AI のデプロイメントに対して六段階の評価（クラウドから全てデバイス上まで）を導入。
• 分散DNNトレーニングアーキテクチャを、集中型／分散型／ハイブリッド（クラウド-エッジ-デバイス）として分類。
• edge AI モデルのトレーニングと推論のためのアーキテクチャ、技術、システムをレビュー。
• 連邦学習、勾配圧縮、DNN分割 などの実現技術と、それらが主要な性能指標へ与える影響を要約。
• edge intelligence における将来の機会と未解決課題を論じる。

実験結果

リサーチクエスチョン

• RQ1 edge intelligence の動機、定義、評価スキームは何か？
• RQ2 クラウド、エッジ、デバイスレベル全体でedge AIのトレーニングと推論を支えるアーキテクチャと実現技術は何か？
• RQ3 遅延、プライバシー、通信コスト、エネルギー効率はどのようにトレードオフされ、どの解決策が適しているか？
• RQ4 edge intelligence の研究と実践における未解決の課題と今後の方向性は何か？

主な発見

• Edge intelligence はエッジコンピューティングとAIを組み合わせ、データソース近傍のエッジリソースを活用して低遅延でプライバシーを意識したAIを実現する。
• クラウド知能から全てをデバイス上で行うまでの六段階評価フレームワークは、トレーニングと推論がどこで発生するかを特徴づけ、各レベルでデータオフロードがどのように変化するかを示す。
• エッジでの分散DNNトレーニングは、集中型、分散型、またはハイブリッドアーキテクチャに従うことができ、それぞれデータフローとプライバシーへの影響が異なる。
• 連邦学習、勾配圧縮、DNN分割、知識移転など、トレーニングの効率とプライバシーを向上させる実現技術をレビュー。
• エッジトレーニングの主要な性能指標（トレーニング損失、収束、プライバシー、通信コスト、遅延、エネルギー）とそれらのトレードオフを論じる。
• エッジインテリジェンスにおける未解決の課題と今後の方向性を特定し、さらなる研究と実用展開を促進することを目指す。