[논문 리뷰] PIRT: A Runtime Framework to Enable Energy-Efficient Real-Time Robotic Applications on Heterogeneous Architectures

Liu Liu, Shaoshan Liu외 4명|arXiv (Cornell University)|2018. 02. 23.

Robotics and Sensor-Based Localization참고 문헌 15인용 수 5

한 줄 요약

PIRT는 모바일 로봇 시스템에서 이질적 가속기(GPU, FPGA, DSP 등) 간에 워크로드를 동적으로 관리하는 런타임 프레임워크로, 에너지 효율적인 실시간 성능을 가능하게 한다. 워크로드 특성과 시스템 제약 조건을 바탕으로 작업을 최적의 가속기로 지능적으로 오프로딩하여 11W 전력 예산 내에서 25 FPS 로컬라이제이션, 3 FPS 장애물 탐지 및 전체 로봇 기능을 구현한다.

ABSTRACT

Enabling full robotic workloads with diverse behaviors on mobile systems with stringent resource and energy constraints remains a challenge. In recent years, attempts have been made to deploy single-accelerator-based computing platforms (such as GPU, DSP, or FPGA) to address this challenge, but with little success. The core problem is two-fold: firstly, different robotic tasks require different accelerators, and secondly, managing multiple accelerators simultaneously is overwhelming for developers. In this paper, we propose PIRT, the first robotic runtime framework to efficiently manage dynamic task executions on mobile systems with multiple accelerators as well as on the cloud to achieve better performance and energy savings. With PIRT, we enable a robot to simultaneously perform autonomous navigation with 25 FPS of localization, obstacle detection with 3 FPS, route planning, large map generation, and scene understanding, traveling at a max speed of 5 miles per hour, all within an 11W computing power envelope.

연구 동기 및 목표

• 엄격한 에너지 및 자원 제약 조건을 가진 모바일 시스템에 다양한 로봇 워크로드를 구현하는 데 도전하는 것.
• 로봇 응용 프로그램의 다양한 계산 요구 사항을 처리하지 못하는 단일 가속기 플랫폼의 한계를 극복하는 것.
• 모바일 및 클라우드 환경에서 동시에 여러 가속기를 관리하는 데서 개발자의 부담을 줄이는 것.
• 로컬라이제이션, 장애물 탐지, 경로 계획, 환경 이해와 같은 복잡한 로봇 작업에 대해 실시간 성능을 제공하는 것.
• 이종 컴퓨팅 아키텍처 전반에서 고성능을 유지하면서도 상당한 에너지 절감을 달성하는 것.

제안 방법

• 계산 요구 사항과 에너지 효율성에 기반해 로봇 워크로드를 최적의 가속기(GPU, DSP, FPGA)에 매핑하는 동적 작업 오프로딩 메커니즘 설계.
• 전력 소비, 작업 지연, 가속기 활용도를 포함한 시스템 상태의 런타임 모니터링 통합.
• 실시간 제약 조건과 에너지 효율성을 고려한 작업 할당에서 우선순위를 정하는 워크로드 인식 스케줄링 정책 구현.
• 통합된 런타임 인터페이스를 통해 모바일 엣지 디바이스와 클라우드 플랫폼 간의 원활한 실행 지원.
• 다양한 워크로드 하에서 성능과 전력 소비를 균형 잡는 적응형 자원 관리 활용.
• 각 가속기 유형에서 데이터 이동을 최소화하고 처리량을 극대화하기 위한 하드웨어 특화 최적화 활용.

실험 결과

연구 질문

• RQ1 단일 런타임 프레임워크는 어떻게 여러 이질적 가속기 간에 다양한 로봇 워크로드를 효율적으로 관리할 수 있는가?
• RQ2 제한된 전력 예산을 가진 모바일 로봇 시스템에서 실시간 성능과 에너지 효율성을 달성하는 데 어떤 메커니즘이 필요한가?
• RQ3 가속기 간 동적 작업 오프로딩은 정적 또는 단일 가속기 접근 방식에 비해 성능 향상과 에너지 소비 감소에 얼마나 기여하는가?
• RQ4 통합된 런타임 프레임워크는 로컬라이제이션, 장애물 탐지, 환경 이해와 같은 복잡한 로봇 행동을 동시에 얼마나 잘 지원할 수 있는가?
• RQ5 모바일 및 클라우드 환경으로 워크로드를 확장할 때 성능와 에너지 효율성 간의 상호 교환 관계는 어떠한가?

주요 결과

• PIRT는 25 FPS로 로컬라이제이션과 3 FPS로 장애물 탐지에 대해 자율 주행을 가능하게 하며, 실시간 반응성을 유지한다.
• 이 프레임워크는 경로 계획, 대규모 지도 생성, 환경 이해를 포함한 전체 로봇 기능을 11W 전력 소비 범위 내에서 지원한다.
• 최적의 가속기로 작업을 동적으로 오프로딩함으로써, PIRT는 통합형 또는 단일 가속기 솔루션에 비해 상당한 에너지 절감을 달성한다.
• 변동하는 워크로드와 자원 제약 조건 하에서도 시스템은 낮은 종단 간 지연과 높은 처리량을 유지한다.
• PIRT는 모바일 플랫폼과 클라우드 환경 간의 확장성과 이식 가능성을 입증하여 일관된 성능과 에너지 효율성을 제공한다.
• 런타임 모니터링과 적응형 스케줄링은 유휴 시간을 줄이고 가속기 활용도를 향상시켜 에너지 효율성과 성능 향상에 기여한다.