[论文解读] PIRT: A Runtime Framework to Enable Energy-Efficient Real-Time Robotic Applications on Heterogeneous Architectures

Liu Liu, Shaoshan Liu+4 more|arXiv (Cornell University)|Feb 23, 2018

Robotics and Sensor-Based Localization参考文献 15被引用 5

一句话总结

PIRT 是一种运行时框架，可动态管理移动机器人系统中异构加速器（如 GPU、FPGA、DSP）上的工作负载，以实现能效比高的实时性能。通过根据工作负载特性与系统约束，智能地将任务卸载到最优加速器，PIRT 在 11W 功耗预算下实现了 25 FPS 的定位性能、3 FPS 的障碍物检测性能，并支持完整的机器人功能。

ABSTRACT

Enabling full robotic workloads with diverse behaviors on mobile systems with stringent resource and energy constraints remains a challenge. In recent years, attempts have been made to deploy single-accelerator-based computing platforms (such as GPU, DSP, or FPGA) to address this challenge, but with little success. The core problem is two-fold: firstly, different robotic tasks require different accelerators, and secondly, managing multiple accelerators simultaneously is overwhelming for developers. In this paper, we propose PIRT, the first robotic runtime framework to efficiently manage dynamic task executions on mobile systems with multiple accelerators as well as on the cloud to achieve better performance and energy savings. With PIRT, we enable a robot to simultaneously perform autonomous navigation with 25 FPS of localization, obstacle detection with 3 FPS, route planning, large map generation, and scene understanding, traveling at a max speed of 5 miles per hour, all within an 11W computing power envelope.

研究动机与目标

• 解决在具有严格能效与资源约束的移动系统上部署多样化机器人工作负载的挑战。
• 克服单一加速器平台无法应对机器人应用多样化计算需求的局限性。
• 减轻开发人员在移动与云环境之间同时管理多个加速器的负担。
• 为复杂机器人任务（如定位、障碍物检测、路径规划和场景理解）提供实时性能。
• 在异构计算架构上实现显著的能效节省，同时保持高性能。

提出的方法

• 设计一种动态任务卸载机制，根据计算需求与能效比，将机器人工作负载映射到最合适的加速器（GPU、DSP、FPGA）上。
• 集成对系统状态的运行时监控，包括功耗、任务延迟和加速器利用率。
• 实现一种工作负载感知的调度策略，在任务分配中优先考虑实时性约束与能效比。
• 通过统一的运行时接口，支持在移动边缘设备与云平台之间的无缝执行。
• 采用自适应资源管理，在不同工作负载下平衡性能与功耗。
• 利用硬件特定的优化技术，最小化数据移动，最大化各类加速器的吞吐量。

实验结果

研究问题

• RQ1 如何通过单一运行时框架高效管理跨多个异构加速器的多样化机器人工作负载？
• RQ2 哪些机制能够在功耗受限的移动机器人系统中实现实时性能与能效比？
• RQ3 与静态或单加速器方法相比，跨加速器的动态任务卸载在性能提升与能耗降低方面有何改进？
• RQ4 统一的运行时框架在多大程度上能够同时支持复杂的机器人行为，如定位、障碍物检测与场景理解？
• RQ5 在移动与云环境之间扩展机器人工作负载时，性能与能效比之间的权衡如何？

主要发现

• PIRT 实现了 25 FPS 的定位性能与 3 FPS 的障碍物检测性能，同时保持了实时响应能力。
• 该框架在 11W 功耗范围内支持完整的机器人功能，包括路径规划、大地图生成与场景理解。
• 通过将任务动态卸载到最优加速器，PIRT 相较于单体或单加速器解决方案实现了显著的能效节省。
• 系统在各种机器人工作负载下均保持低端到端延迟与高吞吐量，即使在工作负载波动与资源受限条件下亦如此。
• PIRT 在移动平台与云环境之间展现出良好的可扩展性与可移植性，支持一致的性能与能效表现。
• 运行时监控与自适应调度减少了空闲时间，提升了加速器利用率，从而增强了能效与性能。