[论文解读] "Curse of rarity" for autonomous vehicles

Henry X. Liu, Shuo Feng|arXiv (Cornell University)|Jul 6, 2022

Software Testing and Debugging Techniques被引用 9

一句话总结

本文識別出「稀有性之詛咒」——即安全關鍵駕駛事件極度稀少——作為自動駕駛車輛發展的根本挑戰。作者將其視為安全關鍵領域中的系統性問題，提出一個統一的概念模型以分析高維駕駛環境中的稀有性，並主張透過資料效率學習與基於模擬的驗證來克服資料稀缺問題。

ABSTRACT

In this paper, we reveal that the rarity of safety-critical events in high-dimensional driving environments is the root cause of the safety challenge for autonomous vehicle development. We formulate it as "curse of rarity" (CoR) because it occurs ubiquitously in various safety-critical systems such as medical diagnosis and aerospace systems.

研究动机与目标

• 將自動駕駛車輛發展中的安全挑戰根源識別為安全關鍵事件的極端稀少性。
• 將問題視為一種系統性「稀有性之詛咒」（CoR），其影響不僅限於自動駕駛車輛，也延伸至航空與醫療診斷等領域。
• 提出概念上的轉變，朝向資料效率學習與模擬驅動的驗證，以應對安全關鍵情境中的資料稀缺問題。
• 建立理論基礎，以理解高維駕駛環境如何放大稀有事件的影響。
• 引導未來研究朝向具備強健性、資料效率的訓練與評估框架，以適用於自動駕駛系統。

提出的方法

• 將「稀有性之詛咒」形式化為一種統計現象，即安全關鍵事件在高維狀態-動作空間中極其頻繁地發生。
• 透過與其他安全關鍵系統（如醫療診斷、航空）的類比，驗證CoR問題的普遍性。
• 建議從資料驅動學習轉向基於模擬與合成資料生成，以增加對稀有情境的有效接觸。
• 提出一個概念框架，用於評估自動系統訓練與驗證中稀有事件的風險與覆蓋程度。
• 強調需超越標準評估指標，進行分佈泛化與強健性測試。
• 主張採用課程學習與層次強化學習，以優先學習稀有但關鍵的行為。

实验结果

研究问题

• RQ1 儘管收集了大量資料，為何安全關鍵事件在自動駕駛系統中仍難以被偵測與學習？
• RQ2 駕駛環境的高維度如何加劇稀有事件偵測與學習的挑戰？
• RQ3 模擬與合成資料生成在訓練安全自動駕駛車輛時，能在多大程度上緩解資料稀缺問題？
• RQ4 自動駕駛車輛中的「稀有性之詛咒」與航空或醫療診斷領域中的類似挑戰之間存在哪些系統性類比？
• RQ5 學習框架應如何重新設計，以在不依賴龐大真實世界資料的情況下，優先提升對稀有、高影響事件的強健性？

主要发现

• 高維駕駛環境中安全關鍵事件的稀少性，是自動駕駛車輛發展中安全挑戰的主要根源。
• 「稀有性之詛咒」不僅存在於自駕車輛，而是安全關鍵領域（如醫療診斷與航空工程）中普遍存在的系統性問題。
• 傳統資料驅動方法因缺乏足夠的統計曝光，無法充分涵蓋稀有但關鍵的情境。
• 基於模擬的訓練與合成資料生成對於增加對稀有事件的有效經驗、提升模型強健性至關重要。
• 朝向資料效率學習範式（如課程學習與分佈泛化）的轉變，是實現可靠安全性的必要條件。
• 本文建立了重新思考自動駕駛系統評估與訓練協議的概念基礎，以優先考慮稀有事件的強健性。