[論文レビュー] KubeEdge.AI: AI Platform for Edge Devices

Sean Wang, Yuxiao Hu+1 more|arXiv (Cornell University)|Jul 7, 2020

Digital Innovation in Industries被引用数 11

ひとこと要約

KubeEdge.AI は、分散エッジデバイスにおける AI ワークロードの簡素化を目的とした、KubeEdge フレームワークに基づくエッジ AI プラットフォームです。データ処理エンジン、軽量 AI ランタイム、意思決定エンジン、分散クエリインターフェースを統合し、エッジ・クラウド間の効率的な連携を実現するとともに、組み込み AI システムの開発負荷を低減します。

ABSTRACT

The demand for smartness in embedded systems has been mounting up drastically in the past few years. Embedded system today must address the fundamental challenges introduced by cloud computing and artificial intelligence. KubeEdge [1] is an edge computing framework build on top of Kubernetes [2]. It provides compute resource management, deployment, runtime and operation capabilities on geo-located edge computing resources, from the cloud, which is a natural fit for embedded systems. Here we propose KubeEdge.AI, an edge AI framework on top of KubeEdge. It provides a set of key modules and interfaces: a data handling and processing engine, a concise AI runtime, a decision engine, and a distributed data query interface. KubeEdge.AI will help reduce the burdens for developing specific edge/embedded AI systems and promote edge-cloud coordination and synergy.

研究の動機と目的

• 組み込みシステムにおける知能的で低遅延の処理ニーズの増大に応えるために、エッジで AI ワークロードを実行することを目的とします。
• 標準化されモジュラーなフレームワークを通じて、カスタムエッジ AI システムの開発の複雑さを軽減することを目的とします。
• スケーラブルで管理しやすい AI デプロイを実現するため、エッジとクラウドリソース間の連携を強化することを目的とします。
• リソース制限のあるエッジデバイス上でデータ処理、AI 推論、意思決定を統合的にサポートする統一プラットフォームを提供することを目的とします。

提案手法

• 分散エッジリソースを管理するため、下位レイヤーとして KubeEdge をエッジオーケストレーション層として活用します。
• エッジデータのリアルタイムインジェストと変換を可能にする、データハンドリングおよび処理エンジンを導入します。
• 制限されたエッジハードウェア上で低遅延推論を最適化した、簡潔な AI ランタイムを採用します。
• AI の出力に基づき文脈に応じたイベント駆動型の行動を可能にする意思決定エンジンを統合します。
• 複数デバイス間のデータ相関と取得を可能にする、分散型データクエリインターフェースを提供します。
• 異種のエッジデプロイメントにわたる相互運用性と拡張性をサポートする、モジュラで組み立て可能なインターフェースを設計します。

実験結果

リサーチクエスチョン

• RQ1 リソースが限られた地理的に分散したデバイスにおいて、エッジ AI システムをどのように効率的にオーケストレーションできるか？
• RQ2 エッジ AI 推論とクラウドベースの管理の間で、シームレスな連携を実現するための必要なアーキテクチャ的要素は何か？
• RQ3 エッジデバイス上で、データ処理、AI 推論、意思決定を軽量でスケーラブルな方法で分離し、オーケストレーションするにはどうすればよいか？
• RQ4 カスタムエッジ AI アプリケーションの開発負荷を軽減するインターフェース抽象化は何か？
• RQ5 実世界のエッジデプロイで、低遅延性と高い信頼性をどのように維持できるか？

主な発見

• KubeEdge.AI は Kubernetes ネイティブなオーケストレーションを通じて、エッジデバイスにおける AI ワークロードの効率的なデプロイと管理を可能にします。
• プラットフォームのモジュラ設計により、カスタムエッジ AI アプリケーションの開発の複雑さが軽減されます。
• 分散データクエリインターフェースの統合により、複数デバイス間のデータ相関が可能になり、文脈認識が向上します。
• 簡潔な AI ランタイムにより、低遅延推論が確保され、リアルタイムエッジ処理に適しています。
• 意思決定エンジンにより、AI モデルの出力に基づく動的なイベント駆動型応答が可能になり、システムの応答性が向上します。
• フレームワークはエッジとクラウドの連携を促進し、中央集権的制御と分散実行の両立を実現します。