[论文解读] PI-Edge: A Low-Power Edge Computing System for Real-Time Autonomous Driving Services

Jie Tang, Shaoshan Liu+2 more|arXiv (Cornell University)|Dec 29, 2018

Autonomous Vehicle Technology and Safety参考文献 31被引用 17

一句话总结

PI-Edge 是一种低功耗边缘计算系统，通过利用异构运行时、轻量级操作系统和动态云卸载技术，在经济实惠的嵌入式硬件上实现了实时自动驾驶服务。它仅使用 11 W 功耗的 NVIDIA Jetson 平台，便实现了对多种自动驾驶工作负载的完整支持，标志着首个完整的、可投入生产的自动驾驶车辆边缘系统。

ABSTRACT

To simultaneously enable multiple autonomous driving services on affordable embedded systems, we designed and implemented π-Edge, a complete edge computing framework for autonomous robots and vehicles. The contributions of this paper are three-folds: first, we developed a runtime layer to fully utilize the heterogeneous computing resources of low-power edge computing systems; second, we developed an extremely lightweight operating system to manage multiple autonomous driving services and their communications; third, we developed an edge-cloud coordinator to dynamically offload tasks to the cloud to optimize client system energy consumption. To the best of our knowledge, this is the first complete edge computing system of a production autonomous vehicle. In addition, we successfully implemented π-Edge on a Nvidia Jetson and demonstrated that we could successfully support multiple autonomous driving services with only 11 W of power consumption, and hence proving the effectiveness of the proposed π-Edge system.

研究动机与目标

• 在低成本、低功耗的嵌入式系统上支持多种实时自动驾驶服务。
• 通过将计算任务动态卸载至云端，优化边缘计算在自动驾驶车辆中的能效。
• 设计一种轻量级操作系统，以高效管理服务隔离和服务间通信。
• 充分利用低功耗边缘设备中的异构计算资源（CPU、GPU、TPU）。
• 为自动驾驶车辆交付一个完整、可投入生产的边缘计算软件栈。

提出的方法

• 开发了定制的运行时层，以在低功耗边缘设备上动态调度和利用异构计算资源（CPU、GPU、TPU）。
• 实现了一种最小化、基于微内核的操作系统，以低开销和强隔离性管理多个自动驾驶服务。
• 设计了边缘-云协调器，用于监控系统负载和能耗，并在有益时将计算密集型任务卸载至云端。
• 系统使用轻量级进程间通信（IPC）机制，确保服务间低延迟协调。
• 整个软件栈在 NVIDIA Jetson 平台上进行部署和评估，以验证实时性能和能效。
• 任务卸载决策基于对本地资源利用率和能耗指标的实时监控。

实验结果

研究问题

• RQ1 低功耗边缘系统能否高效地同时支持多种实时自动驾驶服务？
• RQ2 如何充分利用嵌入式系统中的异构计算资源，以满足实时性能需求？
• RQ3 在边缘与云端之间卸载任务的最优策略是什么，以最小化能耗？
• RQ4 轻量级操作系统能否有效管理自动驾驶工作负载中的服务隔离与通信？
• RQ5 是否可以在通用嵌入式硬件上构建一个完整、可投入生产的自动驾驶车辆边缘计算系统？

主要发现

• PI-Edge 在单个 NVIDIA Jetson 平台上仅消耗 11 W 功耗，成功支持了多种自动驾驶服务。
• 系统在动态工作负载下实现了所有服务的实时性能，表现出低延迟的任务执行能力。
• 边缘-云协调器通过在有益时卸载计算密集型任务，降低了客户端能耗。
• 轻量级操作系统实现了低开销和高效的跨服务通信，实现了稳定的服务隔离。
• 异构运行时层有效利用了 CPU、GPU 和 TPU 资源，提升了整体系统吞吐量。
• 本工作首次展示了完整、可投入生产的自动驾驶车辆边缘计算系统，并在真实嵌入式部署中得到验证。