[論文レビュー] Corner Case Generation and Analysis for Safety Assessment of Autonomous Vehicles

Haowei Sun, Shuo Feng+2 more|arXiv (Cornell University)|Feb 6, 2021

Autonomous Vehicle Technology and Safety参考文献 38被引用数 4

ひとこと要約

本稿では、マルコフ決定過程（MDP）とディープ強化学習（DRL）を用いて、自動運転車両の意思決定システムにおける高次元のコーナーケースを統合的に生成・分析するフレームワークを提案する。背景車両（BV）のポリシーをより攻撃的になるように訓練することで、安全に深刻なシナリオを体系的に生成し、主成分分析（PCA）とクラスタリングによる特徴抽出により、代表的で価値のあるコーナーケースを特定した。高速道路走行シミュレーションにおいて、現実的で高影響度の失敗モードが明確に特定された。

ABSTRACT

Testing and evaluation is a crucial step in the development and deployment of Connected and Automated Vehicles (CAVs). To comprehensively evaluate the performance of CAVs, it is of necessity to test the CAVs in safety-critical scenarios, which rarely happen in naturalistic driving environment. Therefore, how to purposely and systematically generate these corner cases becomes an important problem. Most existing studies focus on generating adversarial examples for perception systems of CAVs, whereas limited efforts have been put on the decision-making systems, which is the highlight of this paper. As the CAVs need to interact with numerous background vehicles (BVs) for a long duration, variables that define the corner cases are usually high dimensional, which makes the generation a challenging problem. In this paper, a unified framework is proposed to generate corner cases for the decision-making systems. To address the challenge brought by high dimensionality, the driving environment is formulated based on Markov Decision Process, and the deep reinforcement learning techniques are applied to learn the behavior policy of BVs. With the learned policy, BVs will behave and interact with the CAVs more aggressively, resulting in more corner cases. To further analyze the generated corner cases, the techniques of feature extraction and clustering are utilized. By selecting representative cases of each cluster and outliers, the valuable corner cases can be identified from all generated corner cases. Simulation results of a highway driving environment show that the proposed methods can effectively generate and identify the valuable corner cases.

研究の動機と目的

• 自動運転車両の意思決定システムにおける、安全に深刻なコーナーケースを体系的に生成する手法の不足に対処すること。
• 複雑な走行環境における複数の背景車両（BVs）が関与する、現実の交通状況の高次元性に対処すること。
• ディープ強化学習による攻撃的行動ポリシーの学習を通じて、自然主義的走行データよりも現実的で多様なコーナーケースを生成すること。
• 代表的なクラスターや外れ値としての「価値のある」コーナーケースを同定・抽出し、Cavの評価とモデル改善に効果的に活用すること。
• 認識レベルの敵対的例ではなく、意思決定の失敗に焦点を当てた、スケーラブルでデータ駆動型のCavの安全性評価手法を提供すること。

提案手法

• 交通環境をマルコフ決定過程（MDP）として定式化し、時間的依存性をモデル化し、背景車両（BVs）のポリシー学習を可能にする。
• ディープ強化学習（DRL）を用いて、Cavとの相互作用中にコーナーケースの生成確率を最大化するBV行動ポリシーを訓練する。
• 自然主義的走行データ（NDD）からの制約を組み込むことで、生成された行動が現実的で実行可能であることを保証し、シミュレーションの忠実性を向上させる。
• 高次元コーナーケース特徴の次元削減のため、主成分分析（PCA）を適用する。
• PCAで射影された特徴にDBSCANクラスタリングを適用し、類似したコーナーケースのクラスターや、レアまたは極端なシナリオを示す外れ値を同定する。
• 各クラスターや外れ値から代表的なケースを選択し、詳細な分析とモデル最適化に用いる「価値のある」コーナーケースとする。

実験結果

リサーチクエスチョン

• RQ1 自動運転車両の意思決定システムにおける、高次元で安全に深刻なコーナーケースをどのように体系的に生成できるか？
• RQ2 ディープ強化学習を用いて、より攻撃的で現実的なコーナーケースを生成する背景車両をどれだけ効果的に訓練できるか？
• RQ3 特徴抽出とクラスタリング技術を用いて、多数の生成シナリオから最も情報量が多く代表的なコーナーケースをどのように同定できるか？
• RQ4 生成されたコーナーケースにおいて、どのようなタイプの意思決定の失敗（例：レーン衝突、攻撃的合流）が最も顕著に現れるか？
• RQ5 制約付きDRL訓練により、生成されたコーナーケースが自然主義的走行行動と整合し、現実的であることを保証できるか？

主な発見

• 提案されたDRLベースのフレームワークは、自然主義的走行データに比べ、高速道路走行シミュレーションにおいてより高い密度の安全に深刻なコーナーケースを生成した。
• PCAとDBSCANを用いることで、2つの主要なクラスタ―—「攻撃的合流」と「レーン衝突」—と、特徴的な外れ値ケースを同定した。
• 「攻撃的合流」クラスタは、突然のレーン変更に起因する追突衝突を示しており、横方向の衝突回避の欠陥を示している。
• 「レーン衝突」クラスタには3つのサブタイプが含まれる：並走衝突、レーン変更中の追突、レーン整列後の遅延追突衝突。これは、シナリオ固有の失敗パターンを示している。
• 外れ値ケース（D）は、レーン変更後の遅延衝突など、稀で極端なシナリオを明らかにし、改善されたCav意思決定により回避可能なエッジケースを示している。
• 分析から、Cavモデルはレーン変更時の横方向衝突回避において顕著な限界を示しており、モデル改善の重要な分野であることが判明した。