[论文解读] Challenges of engineering safe and secure highly automated vehicles

Nadja Marko, Eike Möhlmann+4 more|arXiv (Cornell University)|Mar 5, 2021

Autonomous Vehicle Technology and Safety被引用 4

一句话总结

本文识别并分析了阻碍安全且可靠的高度自动化车辆（HAVs）实现的四个核心技术挑战：持续的部署后系统改进、不确定性与信息不完整性的处理、机器学习组件的验证，以及可靠的预测。作者通过产业界与学术界的跨学科合作，提出了针对性的解决方案，旨在克服当前自动驾驶车辆部署所面临的‘幻灭’情绪。

ABSTRACT

After more than a decade of intense focus on automated vehicles, we are still facing huge challenges for the vision of fully autonomous driving to become a reality. The same "disillusionment" is true in many other domains, in which autonomous Cyber-Physical Systems (CPS) could considerably help to overcome societal challenges and be highly beneficial to society and individuals. Taking the automotive domain, i.e. highly automated vehicles (HAV), as an example, this paper sets out to summarize the major challenges that are still to overcome for achieving safe, secure, reliable and trustworthy highly automated resp. autonomous CPS. We constrain ourselves to technical challenges, acknowledging the importance of (legal) regulations, certification, standardization, ethics, and societal acceptance, to name but a few, without delving deeper into them as this is beyond the scope of this paper. Four challenges have been identified as being the main obstacles to realizing HAV: Realization of continuous, post-deployment systems improvement, handling of uncertainties and incomplete information, verification of HAV with machine learning components, and prediction. Each of these challenges is described in detail, including sub-challenges and, where appropriate, possible approaches to overcome them. By working together in a common effort between industry and academy and focusing on these challenges, the authors hope to contribute to overcome the "disillusionment" for realizing HAV.

研究动机与目标

• 识别并分析阻碍安全且可靠的高度自动化车辆（HAVs）部署的主要技术障碍。
• 聚焦HAVs中的工程挑战，排除法律、伦理与社会层面因素，为技术进步提供基础。
• 提出可操作的方法，以克服系统改进、不确定性管理、ML组件验证及预测精度方面的关键挑战。
• 促进产业界与学术界的协作，加速可信自主信息物理系统的发展。

提出的方法

• 系统性地识别HAV工程中的四大核心技术挑战：持续的部署后改进、不确定性与信息不完整性的处理、机器学习组件的验证，以及不确定性下的预测。
• 分析每个主要挑战中的子挑战，如数据稀缺、模型泛化能力不足，以及AI组件的运行时验证。
• 提出技术方案，如空中升级（OTA）、感知不确定性的AI架构、ML模型的形式化验证技术，以及概率预测框架。
• 强调需要具备自适应、自我改进能力的系统，能够在部署后安全地从真实世界数据中学习。
• 强调构建稳健的测试与验证流程的重要性，以应对边缘情况与分布偏移。
• 倡导产业界与学术界联合努力，开发标准化、可扩展且可验证的HAV工程实践。

实验结果

研究问题

• RQ1 如何在确保安全与可靠的前提下，持续改进已部署的高度自动化车辆？
• RQ2 在真实驾驶环境中，管理不确定性与信息不完整性的关键挑战是什么？
• RQ3 可采用哪些方法来验证自动驾驶系统中机器学习组件的正确性与可靠性？
• RQ4 如何准确预测未来的驾驶场景与系统行为，以确保安全决策？

主要发现

• 由于需要安全、可靠且可验证的空中升级与学习机制，持续的部署后改进仍是主要挑战。
• 处理不确定性与信息不完整性需要能够考虑传感器局限性、环境变化性与罕见事件的稳健建模技术。
• HAV中机器学习组件的验证受到缺乏可保证在分布偏移与边缘情况下的行为的形式化方法的阻碍。
• 自动驾驶中的预测本质上具有挑战性，原因在于长尾场景的存在，以及对长时间跨度内高置信度预测的需求。
• 当前HAV工程方法不足以实现完全可信，亟需整合安全性、可靠性和适应性的新框架。
• 产业界与学术界的协作对于应对这些挑战、克服当前自动驾驶开发中的‘幻灭’情绪至关重要。