[論文レビュー] Artificial Intelligence at the Edge

Elisa Bertino, Sujata Banerjee|arXiv (Cornell University)|Dec 10, 2020

IoT and Edge/Fog Computing被引用数 8

ひとこと要約

このホワイトペーパーは、5G/6G、ハードウェアアクセラレータ、プライバシー保護技術の進展を活用して、IoTおよびエッジコンピューティング環境におけるリアルタイムで低レイテンシの応用を可能にするために、ネットワークエッジに人工知能（AI）を統合することを提唱する。エッジにAIを統合することで、医療、災害回復、インマersive技術分野における重要な応用の応答性と効率性が向上する。

ABSTRACT

The Internet of Things (IoT) and edge computing applications aim to support a variety of societal needs, including the global pandemic situation that the entire world is currently experiencing and responses to natural disasters. The need for real-time interactive applications such as immersive video conferencing, augmented/virtual reality, and autonomous vehicles, in education, healthcare, disaster recovery and other domains, has never been higher. At the same time, there have been recent technological breakthroughs in highly relevant fields such as artificial intelligence (AI)/machine learning (ML), advanced communication systems (5G and beyond), privacy-preserving computations, and hardware accelerators. 5G mobile communication networks increase communication capacity, reduce transmission latency and error, and save energy -- capabilities that are essential for new applications. The envisioned future 6G technology will integrate many more technologies, including for example visible light communication, to support groundbreaking applications, such as holographic communications and high precision manufacturing. Many of these applications require computations and analytics close to application end-points: that is, at the edge of the network, rather than in a centralized cloud. AI techniques applied at the edge have tremendous potential both to power new applications and to need more efficient operation of edge infrastructure. However, it is critical to understand where to deploy AI systems within complex ecosystems consisting of advanced applications and the specific real-time requirements towards AI systems.

研究の動機と目的

• 自律走行車両、拡張現実、遠隔医療など、リアルタイムで低レイテンシを要する応用の需要増加に対応する。
• 集中型クラウドコンピューティングが、厳しい応答時間要件およびデータプライバシー要件を満たす上で抱える制限を特定する。
• エッジAIがシステム効率を向上させ、重要な分野における新規応用を可能にする役割を検証する。
• エッジコンピューティング、AI/ML、次世代通信技術（5Gおよびそれ以降）の相乗効果を強調する。

提案手法

• クラウドベースの推論と比較して、レイテンシと帯域幅使用量を削減するため、AIモデルをエッジデバイスに直接デプロイすることを提唱する。
• オンデバイスでのAI推論性能を最適化するために、ハードウェアアクセラレータ（例：TPU、NPU）の使用を強調する。
• フェデレーテッドラーニングやセキュアなマルチパーティ計算などのプライバシー保護型計算技術をエッジに統合する。
• 5Gおよび将来の6Gネットワークを活用して、エッジノードとエンドユーザー間の高容量かつ低レイテンシの通信を実現する。
• 異種のデバイスとネットワークにまたがる分散知能を焦点にした、エッジAIのシステムアーキテクチャを分析する。
• レイテンシ、エネルギー効率、データローカリティを含むエンドツーエンドのシステム設計のトレードオフを検討する。

実験結果

リサーチクエスチョン

• RQ1 エッジにAIを統合することで、自律走行やインマーシブビデオ会議のようなリアルタイム応用の応答時間をどのように改善できるか？
• RQ2 エッジに効果的にAIをデプロイするための主な技術的要因は何か？
• RQ3 5Gおよび6Gネットワークは、エッジAIワークロードのスケーラビリティと信頼性をどのように支援するか？
• RQ4 プライバシー保護型AI技術は、エッジにおける機微なデータのセキュリティをどのように果たすか？
• RQ5 エッジAIシステムにおいて、パフォーマンス、エネルギー効率、データローカリティのバランスを最適化するアーキテクチャパターンは何か？

主な発見

• エッジにAIを統合することで、クラウドベースの処理と比較してレイテンシが顕著に低減され、ミッションクリティカルな応用においてリアルタイムの応答性が実現される。
• 5Gネットワークは、スケーラブルなエッジAIデプロイに不可欠な低レイテンシ・高帯域幅の接続性を提供する。
• エッジに統合されたハードウェアアクセラレータは、AIモデルの推論速度とエネルギー効率を向上させる。
• フェデレーテッドラーニングなどのプライバシー保護技術により、生データを送信せずにデバイス上でAI学習が可能になる。
• エッジにAIを統合することで、6Gネットワークにおけるホログラム通信や高精度な製造分野の新規応用が支援される。
• エッジAIはシステムのレジリエンスを高め、特に災害回復や遠隔医療の場面で集中型クラウドインfraに依存するのを軽減する。