[논문 리뷰] PI-Edge: A Low-Power Edge Computing System for Real-Time Autonomous Driving Services

Jie Tang, Shaoshan Liu외 2명|arXiv (Cornell University)|2018. 12. 29.

Autonomous Vehicle Technology and Safety참고 문헌 31인용 수 17

한 줄 요약

PI-Edge는 이질적 런타임, 경량 운영체제, 동적 클라우드 오프로딩을 활용하여 저전력 임베디드 하드웨어에서 실시간 자율주행 서비스를 가능하게 하는 저전력 엣지 컴퓨팅 시스템입니다. NVIDIA Jetson 플랫폼에서 단지 11W의 전력 소비로 다수의 자율주행 워크로드를 완전히 지원하며, 자율주행 차량을 위한 첫 번째 완전한 프로덕션 준비된 엣지 시스템으로 기록됩니다.

ABSTRACT

To simultaneously enable multiple autonomous driving services on affordable embedded systems, we designed and implemented π-Edge, a complete edge computing framework for autonomous robots and vehicles. The contributions of this paper are three-folds: first, we developed a runtime layer to fully utilize the heterogeneous computing resources of low-power edge computing systems; second, we developed an extremely lightweight operating system to manage multiple autonomous driving services and their communications; third, we developed an edge-cloud coordinator to dynamically offload tasks to the cloud to optimize client system energy consumption. To the best of our knowledge, this is the first complete edge computing system of a production autonomous vehicle. In addition, we successfully implemented π-Edge on a Nvidia Jetson and demonstrated that we could successfully support multiple autonomous driving services with only 11 W of power consumption, and hence proving the effectiveness of the proposed π-Edge system.

연구 동기 및 목표

• 저비용, 저전력 임베디드 하드웨어에서 다수의 실시간 자율주행 서비스를 지원하기 위해.
• 동적 작업 오프로딩을 통한 엣지 컴퓨팅에서의 에너지 효율성을 최적화하기 위해.
• 서비스 격리와 서비스 간 통신을 효율적으로 관리할 수 있는 경량 운영체제를 설계하기 위해.
• 저전력 엣지 디바이스 내의 이질적 컴퓨팅 자원(CPU, GPU, TPU)을 최대로 활용하기 위해.
• 자율주행 차량을 위한 완전하고 프로덕션 준비된 엣지 컴퓨팅 스택을 제공하기 위해.

제안 방법

• 저전력 엣지 디바이스에서 이질적 컴퓨팅 자원(CPU, GPU, TPU)을 동적으로 스케줄링하고 활용하기 위해 맞춤형 런타임 레이어를 개발했습니다.
• 낮은 오버헤드와 강력한 격리 성능을 확보하기 위해 다수의 자율주행 서비스를 관리하는 최소 크기의 마이크로커널 기반 운영체제를 구현했습니다.
• 시스템 로드와 에너지 소비를 모니터링하고 유리한 경우에 계산 집약적인 작업을 클라우드로 오프로딩하기 위해 엣지-클라우드 협업기구를 설계했습니다.
• 서비스 간 저지연성 조율을 보장하기 위해 경량 프로세스 간 통신(IPC) 메커니즘을 사용했습니다.
• 실시간 성능과 에너지 효율성 검증을 위해 전체 스택을 NVIDIA Jetson 플랫폼에 구현하고 평가했습니다.
• 작업 오프로딩 결정은 현장 자원 활용도와 에너지 소비 지표의 실시간 모니터링 기반으로 이뤄졌습니다.

실험 결과

연구 질문

• RQ1 저전력 엣지 시스템이 동시에 다수의 실시간 자율주행 서비스를 효율적으로 지원할 수 있는가?
• RQ2 임베디드 시스템 내 이질적 컴퓨팅 자원을 어떻게 최대로 활용하여 실시간 성능 요구를 충족할 수 있는가?
• RQ3 에지와 클라우드 간 작업 오프로딩의 최적 전략은 무엇인가, 이를 통해 에너지 소비를 최소화할 수 있는가?
• RQ4 경량 운영체제가 자율주행 워크로드에서 서비스 격리와 통신을 효과적으로 관리할 수 있는가?
• RQ5 일반 임베디드 하드웨어에서 완전하고 프로덕션 준비된 엣지 컴퓨팅 시스템을 구축하는 것이 가능한가?

주요 결과

• PI-Edge는 단일 NVIDIA Jetson 플랫폼에서 전력 소비 11W로 다수의 자율주행 서비스를 성공적으로 지원합니다.
• 동적 워크로드 하에서 모든 서비스가 실시간 성능을 확보하며, 저지연성 작업 실행을 입증합니다.
• 엣지-클라우드 협업기구는 유리한 경우에 계산 집약적인 작업을 오프로딩하여 클라이언트 측 에너지 소비를 감소시킵니다.
• 경량 운영체제는 낮은 오버헤드와 효율적인 서비스 간 통신을 달성하여 안정적인 서비스 격리를 실현합니다.
• 이질적 런타임 레이어는 CPU, GPU, TPU 자원을 효과적으로 활용하여 전체 시스템 처리량을 향상시킵니다.
• 본 연구는 실세계 임베디드 환경에 구현된 첫 번째 완전하고 프로덕션 준비된 자율주행 차량 엣지 컴퓨팅 시스템을 제시합니다.