[论文解读] Eudoxus: Characterizing and Accelerating Localization in Autonomous Machines

Yiming Gan, Yu Bo+8 more|arXiv (Cornell University)|Dec 2, 2020

Robotics and Sensor-Based Localization参考文献 67被引用 9

一句话总结

Eudoxus 提出了一种面向自主机器定位的统一软硬件协同设计框架，通过融合基础算法原语，动态适应多样化运行环境。通过识别视觉前端和后端中延迟和变化敏感的关键计算内核，其协同设计了基于FPGA的加速器，采用流水线、资源共享和专用片上内存，相较于优化后的通用平台，在自动驾驶汽车和无人机上实现了最高2倍的加速比和4倍的能效提升。

ABSTRACT

We develop and commercialize autonomous machines, such as logistic robots and self-driving cars, around the globe. A critical challenge to our -- and any -- autonomous machine is accurate and efficient localization under resource constraints, which has fueled specialized localization accelerators recently. Prior acceleration efforts are point solutions in that they each specialize for a specific localization algorithm. In real-world commercial deployments, however, autonomous machines routinely operate under different environments and no single localization algorithm fits all the environments. Simply stacking together point solutions not only leads to cost and power budget overrun, but also results in an overly complicated software stack. This paper demonstrates our new software-hardware co-designed framework for autonomous machine localization, which adapts to different operating scenarios by fusing fundamental algorithmic primitives. Through characterizing the software framework, we identify ideal acceleration candidates that contribute significantly to the end-to-end latency and/or latency variation. We show how to co-design a hardware accelerator to systematically exploit the parallelisms, locality, and common building blocks inherent in the localization framework. We build, deploy, and evaluate an FPGA prototype on our next-generation self-driving cars. To demonstrate the flexibility of our framework, we also instantiate another FPGA prototype targeting drones, which represent mobile autonomous machines. We achieve about 2x speedup and 4x energy reduction compared to widely-deployed, optimized implementations on general-purpose platforms.

研究动机与目标

• 解决在多样化环境条件下部署高效且精确定位算法的挑战，适用于真实世界中的自主机器。
• 克服单一解决方案的局限性——即为单一算法设计专用加速器——这些方案导致成本高、功耗大且软件栈复杂。
• 开发一个统一的软件框架，集成多种定位算法（如VIO、SLAM）的核心原语，实现灵活、场景感知的运行。
• 识别并加速定位流水线中对延迟和延迟变化最关键的内核，以提升平均性能和可预测性。
• 设计一种灵活可重用的硬件加速器架构，支持多种自主机器平台（如自动驾驶汽车、无人机），并仅需最小程度的重新配置。

提出的方法

• 设计一个统一的定位软件框架，融合现有方法（如VIO、SLAM）中的基础算法原语，实现对不同环境的动态适应。
• 对端到端定位流水线进行表征分析，识别对整体延迟和延迟变化贡献最大的内核，重点关注平均性能和可预测性。
• 协同设计面向视觉前端的硬件加速器，采用流水线、资源共享和针对数据重用模式与任务级并行性的专用片上内存结构。
• 开发一种灵活的后端架构，利用不同优化后端（概率型 vs. 约束型）之间的共性操作（如矩阵分块），以减少延迟变化。
• 实现一个运行时调度器，确保降低延迟变化的同时不损害平均延迟，维持系统级性能保障。
• 在两个FPGA平台部署Eudoxus框架：面向自动驾驶汽车的高端Vertex-7 FPGA，以及面向无人机的嵌入式Zynq Ultrascale+，以支持真实世界评估。

实验结果

研究问题

• RQ1 是否可以设计一个统一的软件框架，在不牺牲精度或效率的前提下，支持在多样化真实环境中运行多种定位算法（如VIO、SLAM）？
• RQ2 在定位流水线中，哪些内核对端到端延迟和延迟变化最为关键，如何系统性地实现加速？
• RQ3 如何通过软硬件协同设计，利用内在并行性、数据局部性和不同定位后端之间的共享操作，构建一个灵活高效的加速器？
• RQ4 单一加速器架构在多大程度上能够支持具有不同性能和功耗约束的多样化自主机器（如自动驾驶汽车与无人机）？
• RQ5 与优化后的通用平台相比，为统一定位框架协同设计硬件加速器，在加速比和能效方面能带来多大的量化提升？

主要发现

• 无论后端算法如何，视觉前端都是所有环境中端到端定位延迟的主要瓶颈。
• 最坏情况下的延迟可能高达最佳情况下的4倍，凸显了在安全性和可预测性方面解决延迟变化问题的紧迫性。
• 与广泛部署的、优化后的通用平台（CPU/GPU/DSP）上的实现相比，Eudoxus实现了约2倍的加速比和4倍的能效降低。
• 在KITTI基准测试中，Edx-Car（Eudoxus用于自动驾驶汽车）以31.9 FPS的帧率运行，误差为0.01%，优于先前的ASIC SLAM（误差2.1%，帧率30–80 FPS）。
• 在EuRoC基准测试中，Edx-Drone（Eudoxus用于无人机）以22.4 FPS的帧率运行，误差为0.23米，精度与先前的FPGA VIO（误差0.19米）相当，但吞吐量显著更高（22.4 FPS vs. 5–20 FPS）。
• 与为每种算法单独部署加速器的方案相比，统一架构的资源浪费减少了2倍以上，展示了系统级设计中的显著效率提升。