[논문 리뷰] How Simulation Helps Autonomous Driving:A Survey of Sim2real, Digital Twins, and Parallel Intelligence

Xuemin Hu, Shen Li외 4명|arXiv (Cornell University)|2023. 05. 02.

Autonomous Vehicle Technology and Safety인용 수 4

한 줄 요약

이 종합 검토는 자율주행에서 현실 갭을 해소하는 데 핵심적인 역할을 하는 sim2real, 디지털 트윈(DTs), 평행지능(PI)을 종합적으로 분석한다. 도메인 랜덤라이제이션, 메타러닝, 다중 척도 시뮬레이션과 같은 최신 기법들을 통합하여, 시뮬레이션 기반 지식 이행이 안전성 향상, 실세계 테스트 비용 감소, 그리고 통합된 가상 및 물리 시스템의 공진화를 통한 확장성 있고 견고한 자율주행 시스템 개발을 어떻게 가능하게 하는지 보여준다.

ABSTRACT

Safety and cost are two important concerns for the development of autonomous driving technologies. From the academic research to commercial applications of autonomous driving vehicles, sufficient simulation and real world testing are required. In general, a large scale of testing in simulation environment is conducted and then the learned driving knowledge is transferred to the real world, so how to adapt driving knowledge learned in simulation to reality becomes a critical issue. However, the virtual simulation world differs from the real world in many aspects such as lighting, textures, vehicle dynamics, and agents' behaviors, etc., which makes it difficult to bridge the gap between the virtual and real worlds. This gap is commonly referred to as the reality gap (RG). In recent years, researchers have explored various approaches to address the reality gap issue, which can be broadly classified into three categories: transferring knowledge from simulation to reality (sim2real), learning in digital twins (DTs), and learning by parallel intelligence (PI) technologies. In this paper, we consider the solutions through the sim2real, DTs, and PI technologies, and review important applications and innovations in the field of autonomous driving. Meanwhile, we show the state-of-the-arts from the views of algorithms, models, and simulators, and elaborate the development process from sim2real to DTs and PI. The presentation also illustrates the far-reaching effects and challenges in the development of sim2real, DTs, and PI in autonomous driving.

연구 동기 및 목표

• 시뮬레이션 환경과 실세계 자율주행 환경 간의 핵심 과제인 현실 갭(RG)을 해결하기 위해.
• 자율주행을 위한 sim2real, 디지털 트윈(DTs), 평행지능(PI) 분야의 기존 기법들을 체계적으로 검토하고 분류하기 위해.
• 지식 이행, 데이터 부족, 시뮬레이션과 현실 간의 모델 일반화에 있어 주요 제약 조건과 열린 과제를 규명하기 위해.
• 안전성, 확장성, 실세계 구현을 향상시키기 위해 sim2real, DT, PI 기술을 평가하고 통합할 수 있는 통합 프레임워크를 제공하기 위해.

제안 방법

• 커리큘럼 학습, 메타러닝, 지식 증류, 강건한 강화학습, 도메인 랜덤라이제이션, 전이학습을 포함한 6가지 핵심 sim2real 기법으로 분류.
• 실제 센서 데이터와 물리 기반 모델링을 활용하여 물리적 차량과 가상 시뮬레이션 간 双방향 데이터 흐름을 가능하게 하는 디지털 트윈(DT) 아키텍처 분석.
• 물리적 시스템과 가상 시스템 간의 동기화된 계산을 통해 기술, 예측, 지침 제어를 지원하는 평행지능(PI) 프레임워크 검토.
• 실제 시뮬레이션 및 DT 응용에 적합한 정밀도, 확장성, 적합성을 평가하기 위해 주요 자율주행 시뮬레이터(예: AirSim, CarSim, SUMO) 조사.
• 실세계 및 시뮬레이션 환경에서 다중 모odal, 고용량 데이터를 통합하여 PI 기반 자율주행 시스템의 학습 및 검증 수행.
• 다양한 환경과 작업 간에 학습된 정책의 일반화 및 이행 가능성 평가를 위한 계층적 평가 프레임워크 제안.

실험 결과

연구 질문

• RQ1 도메인 랜덤라이제이션과 강건한 강화학습과 같은 sim2real 기법이 자율주행에서 현실 갭을 어떻게 효과적으로 줄이는가?
• RQ2 디지털 트윈은 실시간 데이터 및 모델 업데이트를 통해 물리적 차량의 정확한 실시간 모델링과 제어를 어느 정도 가능하게 하는가?
• RQ3 자율주행 시스템에서 효과적인 평행지능을 실현하는 데 핵심이 되는 아키텍처적 및 알고리즘적 구성 요소는 무엇인가?
• RQ4 현재 sim2real, DT, PI 기법에서 다양한 주행 시나리오 및 환경 간 일반화를 저해하는 주요 제약 조건은 무엇인가?
• RQ5 sim2real, DT, PI 기술의 통합은 자율주행 차량 개발의 확장성, 안전성, 비용 효율성을 어떻게 향상시킬 수 있는가?

주요 결과

• 도메인 랜덤라이제이션과 강건한 강화학습은 훈련 중 다양한 환경 변형에 노출시킴으로써 정책의 일반화를 크게 향상시킨다.
• 디지털 트윈은 실세계 센서 데이터를 활용해 물리적 차량 상태와 고정밀 가상 복제본 간 동기화를 통해 실시간 운동 계획 수립 및 시스템 모니터링을 가능하게 한다.
• 평행지능 프레임워크는 물리적 및 시뮬레이션 데이터 스트림을 다중 단위, 동시 처리할 수 있도록 지원하여 시스템 성능을 향상시킨다.
• 현재 sim2real 기법들은 매우 시나리오 특화되어 있으며, 일반적이고 작업에 종속되지 않은 지식 이행 접근 방식이 부족하여 확장성과 이식성에 제한을 받는다.
• 희귀하거나 극단적인 시나리오에서의 실세계 데이터 부족은 시뮬레이션 데이터의 풍부함에도 불구하고 여전히 주요 장애물로 남아 있다.
• DT 및 PI 구성 요소의 모델링, 평가, 통합을 위한 표준화된 방법론 부족은 종합적이고 종단 간 자율주행 시스템 개발을 저해한다.