[論文レビュー] How Simulation Helps Autonomous Driving:A Survey of Sim2real, Digital Twins, and Parallel Intelligence

Xuemin Hu, Shen Li+4 more|arXiv (Cornell University)|May 2, 2023

Autonomous Vehicle Technology and Safety被引用数 4

ひとこと要約

本調査は、自動運転におけるリアリティギャップを埋めるためのキーエンablerとしてのsim2real、デジタルツイン（DTs）、およびパラレルインテリジェンス（PI）を包括的にレビューする。ドメインランダマイゼーション、メタラーニング、マルチスケールシミュレーションなどの最先端手法を統合的に分析し、シミュレーション駆動の知識移行が、安全性の向上、実世界テストコストの削減、および統合された仮想・物理システムの共進化を通じて、スケーラブルで頑健な自動運転システムの実現を可能にすることを示している。

ABSTRACT

Safety and cost are two important concerns for the development of autonomous driving technologies. From the academic research to commercial applications of autonomous driving vehicles, sufficient simulation and real world testing are required. In general, a large scale of testing in simulation environment is conducted and then the learned driving knowledge is transferred to the real world, so how to adapt driving knowledge learned in simulation to reality becomes a critical issue. However, the virtual simulation world differs from the real world in many aspects such as lighting, textures, vehicle dynamics, and agents' behaviors, etc., which makes it difficult to bridge the gap between the virtual and real worlds. This gap is commonly referred to as the reality gap (RG). In recent years, researchers have explored various approaches to address the reality gap issue, which can be broadly classified into three categories: transferring knowledge from simulation to reality (sim2real), learning in digital twins (DTs), and learning by parallel intelligence (PI) technologies. In this paper, we consider the solutions through the sim2real, DTs, and PI technologies, and review important applications and innovations in the field of autonomous driving. Meanwhile, we show the state-of-the-arts from the views of algorithms, models, and simulators, and elaborate the development process from sim2real to DTs and PI. The presentation also illustrates the far-reaching effects and challenges in the development of sim2real, DTs, and PI in autonomous driving.

研究の動機と目的

• シミュレート環境と実世界の自動運転環境との間の重要な課題であるリアリティギャップ（RG）に対処すること。
• 自動運転におけるsim2real、デジタルツイン（DTs）、およびパラレルインテリジェンス（PI）の既存手法を体系的にレビューし、分類すること。
• 知識移行、データ不足、シミュレーションと現実の間でのモデル一般化に関する主な制限要因と未解決課題を特定すること。
• 安全でスケーラブルかつ実世界への展開に適した自動運転システムの向上を図るための、sim2real、DT、PI技術を統合・評価する統一フレームワークを提供すること。

提案手法

• カリキュラム学習、メタラーニング、知識蒸留、レジリエント強化学習、ドメインランダマイゼーション、トランスファーラーニングの6つのコア手法に分類して、sim2real技術を整理する。
• 実センサー情報と物理ベースのモデリングを用いて、物理的車両と仮想シミュレーションの間で双方向のデータフローを可能にするデジタルツイン（DT）アーキテクチャを分析する。
• 物理的および仮想システム間の同期計算を通じて、記述、予測、規定制御を支援するパラレルインテリジェンス（PI）フレームワークを検討する。
• AirSim、CarSim、SUMOなどの主要な自動運転シミュレータを調査し、それらの忠実度、スケーラビリティ、およびsim2realおよびDT応用への適性を評価する。
• 実環境およびシミュレート環境からのマルチモーダルかつ高容量のデータを統合して、PIベースの自動運転システムの訓練および検証を行う。
• 多様な環境およびタスクにわたる学習済みポリシーの一般化および移行可能性を評価するための階層的評価フレームワークを提言する。

実験結果

リサーチクエスチョン

• RQ1 ドメインランダマイゼーションやレジリエント強化学習などのsim2real技術は、自動運転におけるリアリティギャップをどのように効果的に低減するのか？
• RQ2 デジタルツインは、リアルタイムのデータおよびモデルの同期更新を通じて、物理的車両の正確なリアルタイムモデリングと制御をどの程度可能にするのか？
• RQ3 自動運転システムにおける効果的なパラレルインテリジェンスを実現するための主なアーキテクチャ的およびアルゴリズム的要素は何か？
• RQ4 現在のsim2real、DT、PI手法における、多様な走行シナリオや環境にわたる一般化を阻害する主な制限要因は何か？
• RQ5 sim2real、DT、PI技術の統合は、どのようによりスケーラブルで安全かつコスト効率の良い自動車開発を実現するのか？

主な発見

• ドメインランダマイゼーションとレジリエント強化学習は、トレーニング中に多様な環境変動にさらされるようにすることで、ポリシーの一般化を顕著に向上させる。
• デジタルツインは、実際のセンサー情報を用いて物理的車両の状態と高精度な仮想レプリカを同期することで、リアルタイムの運動計画とシステム監視を可能にする。
• パラレルインテリジェンスフレームワークは、物理的およびシミュレートされたデータストリームの複数ユニットによる並列処理を可能にすることで、システム性能を向上させる。
• 現在のsim2real手法は非常にシナリオ特化的であり、知識移行に一般的でタスクに依存しないアプローチを欠いているため、スケーラビリティと移植性が制限されている。
• 稀なまたは極端な走行シナリオにおける実世界データの不足は、シミュレートデータの豊富さにもかかわらず、依然として主要なボトル neck である。
• DTおよびPIコンponentsのモデリング、評価、統合を標準化した手法が不足しているため、包括的でエンドツーエンドの自動運転システムの開発が阻害されている。