[논문 리뷰] KubeEdge.AI: AI Platform for Edge Devices

Sean Wang, Yuxiao Hu외 1명|arXiv (Cornell University)|2020. 07. 07.

Digital Innovation in Industries인용 수 11

한 줄 요약

KubeEdge.AI는 분산된 엣지 디바이스에서 AI 워크로드를 간소화하기 위해 KubeEdge 프레임워크 기반으로 구축된 엣지 AI 플랫폼입니다. 데이터 처리 엔진, 경량 AI 런타임, 의사결정 엔진, 분산 쿼리 인터페이스를 통합하여 효율적인 엣지-클라우드 협업을 가능하게 하며, 임베디드 AI 시스템의 개발 오버헤드를 줄입니다.

ABSTRACT

The demand for smartness in embedded systems has been mounting up drastically in the past few years. Embedded system today must address the fundamental challenges introduced by cloud computing and artificial intelligence. KubeEdge [1] is an edge computing framework build on top of Kubernetes [2]. It provides compute resource management, deployment, runtime and operation capabilities on geo-located edge computing resources, from the cloud, which is a natural fit for embedded systems. Here we propose KubeEdge.AI, an edge AI framework on top of KubeEdge. It provides a set of key modules and interfaces: a data handling and processing engine, a concise AI runtime, a decision engine, and a distributed data query interface. KubeEdge.AI will help reduce the burdens for developing specific edge/embedded AI systems and promote edge-cloud coordination and synergy.

연구 동기 및 목표

• 임베디드 시스템에서 지능적이고 저지연 처리의 증가 수요를 충족시키기 위해 엣지에서 AI 워크로드를 가능하게 하기 위해.
• 표준화되고 모듈러한 프레임워크를 통해 맞춤형 엣지 AI 시스템 개발의 복잡성을 줄이기 위해.
• 확장 가능하고 관리 용이한 AI 배포를 위해 엣지 및 클라우드 리소스 간의 협업을 향상시키기 위해.
• 자원이 제한된 엣지 디바이스에서 데이터 처리, AI 추론, 의사결정을 지원하는 통합 플랫폼을 제공하기 위해.

제안 방법

• 분산 엣지 리소스를 관리하기 위해 기반 엣지 오케스트레이션 레이어로 KubeEdge를 활용합니다.
• 실시간 엣지 데이터 수집 및 변환을 위한 데이터 처리 및 처리 엔진을 도입합니다.
• 제한된 엣지 하드웨어에서 저지연 추론을 최적화한 간결한 AI 런타임을 활용합니다.
• AI 출력 기반으로 맥락 인식형 이벤트 기반 동작을 가능하게 하기 위해 의사결정 엔진을 통합합니다.
• 다중 디바이스 간 데이터 관련성 및 검색을 가능하게 하기 위해 분산 데이터 쿼리 인터페이스를 제공합니다.
• 이질적인 엣지 배포 환경 간의 상호 운용성 및 확장성을 지원하기 위해 모듈러하고 조합 가능한 인터페이스를 설계합니다.

실험 결과

연구 질문

• RQ1 자원이 제한된 지리적으로 분산된 디바이스에서 엣지 AI 시스템을 어떻게 효율적으로 오케스트레이션할 수 있는가?
• RQ2 엣지 AI 추론과 클라우드 기반 관리 간의 원활한 협업을 가능하게 하기 위해 필요한 아키텍처 컴포넌트는 무엇인가?
• RQ3 데이터 처리, AI 추론, 의사결정을 어떻게 경량화되고 확장 가능한 방식으로 분리하고 오케스트레이션할 수 있는가?
• RQ4 커스텀 엣지 AI 애플리케이션 개발의 부담을 줄이기 위한 인터페이스 추상화는 무엇인가?
• RQ5 실제 엣지 배포 환경에서 플랫폼은 어떻게 저지연성과 고신뢰성을 유지하는가?

주요 결과

• KubeEdge.AI는 쿠버네티스 네이티브 오케스트레이션을 통해 엣지 디바이스에서 AI 워크로드의 효율적 배포 및 관리를 가능하게 합니다.
• 플랫폼의 모듈러 설계는 맞춤형 엣지 AI 애플리케이션 개발의 복잡성을 감소시킵니다.
• 분산 데이터 쿼리 인터페이스 통합으로 다중 디바이스 간 데이터 관련성 분석이 가능해져 맥락 인식 능력이 향상됩니다.
• 간결한 AI 런타임은 저지연 추론을 보장하여 실시간 엣지 처리에 적합합니다.
• 의사결정 엔진은 AI 모델 출력 기반으로 동적이고 이벤트 기반의 반응을 가능하게 하여 시스템의 반응성 향상에 기여합니다.
• 프레임워크는 엣지와 클라우드 간의 시너지를 유도하여 중앙 집중식 제어와 분산 실행을 동시에 가능하게 합니다.