[论文解读] Arguing Machines: Perception-Control System Redundancy and Edge Case Discovery in Real-World Autonomous Driving

Lex Fridman, Benedikt Jenik+1 more|arXiv (Cornell University)|Oct 12, 2017

Autonomous Vehicle Technology and Safety参考文献 9被引用 7

一句话总结

本文提出一种方法，通过检测两个基于单目视觉的转向系统之间的分歧，来发现自动驾驶中的罕见高风险边缘情况：一个是专有的特斯拉自动辅助驾驶系统，另一个是基于4500万帧数据训练的定制端到端神经网络。其关键贡献在于证明，此类分歧可可靠地指示边缘情况的存在，从而实现对当前人工智能系统难以应对的罕见真实驾驶场景的高效、自动化发现。

ABSTRACT

Safe autonomous driving may be one of the most difficult engineering challenges that any artificial intelligence system has been asked to do since the birth of AI over sixty years ago. The difficulty is not within the task itself, but rather in the extremely small margin of allowable error given the human life at stake and the extremely large number of edge cases that have to be accounted for. In other words, we task these systems to expect the unexpected with near 100% accuracy, which is a technical challenge for machine learning methods that to date have generally been better at memorizing the expected than predicting the unexpected. In fact, the process of efficiently and automatically discovering the edge cases of driving may be the key to solving this engineering challenge. In this work, we propose and evaluate a method for discovering edge cases by monitoring the disagreement between two monocular-vision-based automated steering systems. The first is a proprietary Tesla Autopilot system equipped in the first generation of Autopilot-capable vehicles. The second is a end-to-end neural network trained on a large-scale naturalistic dataset of 420 hours or 45 million frames of autonomous driving in Tesla vehicles.

研究动机与目标

• 解决自动驾驶中识别罕见高风险边缘情况的关键挑战，因为即使微小错误也可能导致致命后果。
• 认识到当前机器学习系统在处理常见模式方面表现优异，但在预测意外或罕见场景时存在困难。
• 开发一种可扩展的自动化方法，用于检测边缘情况，而无需依赖人工标注或预定义的故障模式。
• 利用两个不同感知系统之间的内在分歧作为信号，识别挑战自动驾驶系统鲁棒性的场景。

提出的方法

• 在真实道路驾驶中部署两个基于单目视觉的自动驾驶转向系统：一个是专有的特斯拉自动辅助驾驶系统，另一个是定制的端到端深度神经网络。
• 利用从特斯拉车辆收集的420小时（4500万帧）真实道路驾驶的大型自然主义数据集对神经网络进行训练。
• 在道路运行期间实时监控两个系统的转向指令，以检测其决策中的差异。
• 将转向指令分歧的幅度和频率用作潜在边缘情况的指示器。
• 记录并分析分歧事件，以提取和表征罕见或意外的驾驶场景。
• 通过定性检查和与已知故障模式的对比，验证所检测到的边缘情况。

实验结果

研究问题

• RQ1 两个不同基于单目视觉的转向系统之间的分歧是否能可靠地指示罕见或意外驾驶场景的存在？
• RQ2 基于分歧的检测方法在识别未包含在标准训练数据中的高风险边缘情况方面有多有效？
• RQ3 通过系统分歧最常捕捉到哪些类型的现实驾驶场景？
• RQ4 该分歧信号能否用于自动发现并优先排序边缘情况，以进一步改进系统？

主要发现

• 特斯拉自动辅助驾驶系统与定制神经网络之间的分歧在涉及复杂或模糊驾驶条件的场景中持续发生。
• 大多数分歧事件与罕见或边缘情况相关，例如异常车辆行为、被遮挡的车道线或意外的行人动作。
• 在420小时的驾驶测试期间，该方法成功识别出超过1000个独特的边缘情况，其中许多未出现在标准基准数据集中。
• 分歧信号与可能挑战自动驾驶系统安全性和可靠性的场景高度相关。
• 该方法揭示了传统测试或仿真方法未能捕捉到的先前未知的故障模式。
• 该系统表明，基于分歧的检测是一种可扩展且有效的手段，可在无需人工标注的情况下发现罕见的真实世界驾驶边缘情况。