[논문 리뷰] Eudoxus: Characterizing and Accelerating Localization in Autonomous Machines

Yiming Gan, Yu Bo외 8명|arXiv (Cornell University)|2020. 12. 02.

Robotics and Sensor-Based Localization참고 문헌 67인용 수 9

한 줄 요약

Eudoxus는 자율 주행 차량과 드론을 포함한 다양한 운영 환경에서 동적으로 적응 가능한 통합 소프트웨어-하드웨어 공동 설계 프레임워크를 제안한다. 이는 기본 알고리즘 원천을 융합하여 자율 기계의 위치 결정을 향상시킨다. 영상 프론트엔드 및 백엔드에서 지연 시간과 변동성에 가장 민감한 커널을 식별하고, 파이ipel라인, 자원 공유, 전용 片상 메모리와 함께 FPGA 기반 가속기를 공동 설계함으로써, 최적화된 일반 목적 플랫폼 대비 최대 2배의 속도 향상과 4배의 에너지 절감을 달성한다.

ABSTRACT

We develop and commercialize autonomous machines, such as logistic robots and self-driving cars, around the globe. A critical challenge to our -- and any -- autonomous machine is accurate and efficient localization under resource constraints, which has fueled specialized localization accelerators recently. Prior acceleration efforts are point solutions in that they each specialize for a specific localization algorithm. In real-world commercial deployments, however, autonomous machines routinely operate under different environments and no single localization algorithm fits all the environments. Simply stacking together point solutions not only leads to cost and power budget overrun, but also results in an overly complicated software stack. This paper demonstrates our new software-hardware co-designed framework for autonomous machine localization, which adapts to different operating scenarios by fusing fundamental algorithmic primitives. Through characterizing the software framework, we identify ideal acceleration candidates that contribute significantly to the end-to-end latency and/or latency variation. We show how to co-design a hardware accelerator to systematically exploit the parallelisms, locality, and common building blocks inherent in the localization framework. We build, deploy, and evaluate an FPGA prototype on our next-generation self-driving cars. To demonstrate the flexibility of our framework, we also instantiate another FPGA prototype targeting drones, which represent mobile autonomous machines. We achieve about 2x speedup and 4x energy reduction compared to widely-deployed, optimized implementations on general-purpose platforms.

연구 동기 및 목표

• 다양한 환경 조건에서 작동하는 실세계 자율 기계에서 효율적이고 정확한 위치 결정을 구현하는 데 도전한다.
• 단일 알고리즘 전용 가속기와 같은 점별 솔루션의 한계를 극복한다. 이러한 솔루션은 높은 비용, 높은 전력 소비, 복잡한 소프트웨어 스택을 야기한다.
• 여러 위치 결정 알고리즘(예: VIO, SLAM)의 핵심 원천을 통합하는 통합 소프트웨어 프레임워크를 개발하여 다양한 시나리오에 맞는 운영을 가능하게 한다.
• 위치 결정 파이프라인에서 지연 시간과 변동성에 가장 큰 영향을 미치는 커널을 식별하고 가속하여 평균 성능 향상과 예측 가능성 향상을 도모한다.
• 자율 기계 플랫폼(예: 자율 주행 차량, 드론)을 다수 지원할 수 있는 유연하고 재사용 가능한 하드웨어 가속기 아키텍처를 설계한다. 이는 최소한의 재구성으로 가능하다.

제안 방법

• 기존 방법(예: VIO, SLAM)의 기본 알고리즘 원천을 융합하여 다양한 환경에서 동적으로 적응 가능한 통합 위치 결정 소프트웨어 프레임워크를 설계한다.
• 전체 파이프라인의 지연 시간과 지연 시간 변동성에 기여하는 커널을 식별하기 위해 종단 간 위치 결정 파이프라인을 분석한다. 이는 평균 성능과 예측 가능성 양쪽 모두를 고려한다.
• 영상 프론트엔드를 대상으로 하드웨어 가속기를 공동 설계하며, 데이터 재사용 패턴과 작업 수준의 병렬성에 맞춘 파이ipel라인, 자원 공유, 片상 메모리 구조를 활용한다.
• 다양한 최적화 백엔드(확률적 대비 제약 조건 기반) 간 공통된 연산(예: 행렬 블로킹)을 활용하는 탄력적인 백엔드 아키텍처를 개발하여 지연 시간 변동성을 감소시킨다.
• 지연 시간 변동성 감소가 평균 지연 시간에 악영향을 주지 않도록 보장하는 런타임 스케줄러를 개발한다. 이는 전체 시스템의 성능 보장을 유지한다.
• Eudoxus 프레임워크를 두 가지 FPGA 플랫폼에 구현한다: 자율 주행 차량용 고성능 Vertex-7 FPGA와 드론용 임베디드 Zynq Ultrascale+ 플랫폼을 사용하여 실제 환경 평가를 수행한다.

실험 결과

연구 질문

• RQ1 다양한 실세계 환경에서 정확도나 효율성을 희생시키지 않고도 여러 위치 결정 알고리즘(예: VIO, SLAM)을 지원할 수 있는 통합 소프트웨어 프레임워크를 설계할 수 있는가?
• RQ2 위치 결정 파이프라인에서 종단 간 지연 시간과 지연 시간 변동성에 가장 중요한 영향을 미치는 커널은 무엇이며, 이를 체계적으로 가속화할 수 있는가?
• RQ3 소프트웨어-하드웨어 공동 설계가 다양한 위치 결정 백엔드 간 내재된 병렬성, 데이터 국소성, 공통 연산을 어떻게 활용하여 탄력적이고 효율적인 가속기를 구축할 수 있는가?
• RQ4 동일한 가속기 아키텍처가 성능 및 전력 제약이 상이한 다양한 자율 기계(예: 자율 주행 차량 대 드론)를 얼마나 잘 지원할 수 있는가?
• RQ5 통합 위치 결정 프레임워크를 위한 하드웨어 가속기 공동 설계가 최적화된 일반 목적 플랫폼 대비 속도 향상과 에너지 효율성 향상에서 어떤 정량적 성과를 낼 수 있는가?

주요 결과

• 모든 환경에서 종단 간 위치 결정 지연 시간의 주요 병목은 영상 프론트엔드이며, 백엔드 알고리즘과는 무관하다.
• 최악의 경우 지연 시간은 최선의 경우보다 최대 4배 높을 수 있어, 안전성과 예측 가능성 확보를 위해 지연 시간 변동성 문제 해결이 매우 중요하다.
• Eudoxus는 일반 목적 플랫폼(CPU/GPU/DSP)에 널리 배포된 최적화된 구현 대비 약 2배의 속도 향상과 4배의 에너지 절감을 달성한다.
• KITTI 벤치마크에서 Edx-Car(Eudoxus for self-driving cars)는 31.9 FPS로 실행되며 오차율 0.01%를 기록한다. 이는 이전 ASIC SLAM(2.1% 오차율, 30–80 FPS)을 능가하는 성능이다.
• EuRoC 벤치마크에서 Edx-Drone(Eudoxus for drones)는 22.4 FPS로 실행되며 오차율 0.23m를 기록한다. 이는 이전 FPGA VIO(0.19m 오차율)의 정확도를 유지하지만, 유의미하게 높은 처리량(22.4 FPS 대 5–20 FPS)을 제공한다.
• 통합 아키텍처는 각 알고리즘 별 개별 가속기 스택 대비 자원 낭비를 2배 이상 줄여, 시스템 수준 설계에서 뚜렷한 효율성 향상을 입증한다.