[论文解读] A Systematic Literature Review about the impact of Artificial Intelligence on Autonomous Vehicle Safety

Alexandre Nascimento, Lúcio F. Vismari+8 more|arXiv (Cornell University)|Apr 4, 2019

Autonomous Vehicle Technology and Safety参考文献 74被引用 15

一句话总结

本篇系统性文献回顾分析了59项研究，以评估人工智能（AI）对自动驾驶汽车（AV）安全的影响，既揭示了AI在提升安全方面的潜力，也指出了其带来的新挑战。该研究提出了一个自动驾驶汽车系统模型，并指出未来基于AI的自动驾驶汽车研究亟需制定专门的安全议程，以应对新兴风险并确保系统可靠、安全地部署。

ABSTRACT

Autonomous Vehicles (AV) are expected to bring considerable benefits to society, such as traffic optimization and accidents reduction. They rely heavily on advances in many Artificial Intelligence (AI) approaches and techniques. However, while some researchers in this field believe AI is the core element to enhance safety, others believe AI imposes new challenges to assure the safety of these new AI-based systems and applications. In this non-convergent context, this paper presents a systematic literature review to paint a clear picture of the state of the art of the literature in AI on AV safety. Based on an initial sample of 4870 retrieved papers, 59 studies were selected as the result of the selection criteria detailed in the paper. The shortlisted studies were then mapped into six categories to answer the proposed research questions. An AV system model was proposed and applied to orient the discussions about the SLR findings. As a main result, we have reinforced our preliminary observation about the necessity of considering a serious safety agenda for the future studies on AI-based AV systems.

研究动机与目标

• 调查人工智能（AI）在提升和挑战自动驾驶汽车（AV）安全方面所起的双重作用。
• 识别当前关于AI在AV系统中应用的研究中的空白点与趋势。
• 提出一个结构化的AV系统模型，以指导以安全为重点的研究与开发。
• 为未来基于AI的AV系统建立安全议程，以应对新兴风险与可靠性问题。
• 将现有文献划分为主题类别，以明确人工智能与AV安全领域的最新研究状况。

提出的方法

• 采用PRISMA指南开展系统性文献回顾（SLR），以确保可重复性与透明度。
• 通过预定义关键词在多个数据库中进行检索，初步获得4,870篇文献。
• 应用严格的纳入与排除标准筛选研究，最终确定59篇高质量且相关的出版物。
• 将筛选后的研究划分为六个主题类别，以回答研究问题并分析趋势。
• 提出一个AV系统模型，以组织讨论并指导未来以安全为导向的研究。
• 采用定性综合方法解读研究发现，重点关注AI在AV中应用的安全影响。

实验结果

研究问题

• RQ1 人工智能在多大程度上有助于提升自动驾驶汽车的安全性？
• RQ2 人工智能在自动驾驶汽车的开发与部署过程中引入了哪些新的安全挑战？
• RQ3 基于AI的AV安全研究中的主导主题与研究趋势是什么？
• RQ4 当前AV中使用的AI技术在多大程度上符合既定的安全工程原则？
• RQ5 关于人工智能驱动AV系统的安全框架，现有文献中存在哪些关键空白？

主要发现

• 从最初的4,870篇文献中筛选出59项研究，表明该领域虽聚焦但研究兴趣正在持续增长。
• 深度学习与强化学习等AI技术被广泛应用于AV的感知与决策模块。
• 文献中相当大一部分强调了AI在减少事故和提升交通效率方面的潜力。
• 然而，研究也突显了关键的安全挑战，包括模型可解释性、对边缘情况的鲁棒性，以及系统级验证问题。
• 该回顾识别出AI组件在AV中缺乏标准化的安全框架与正式验证方法。
• 作者结论认为，为确保可信且可靠的AI驱动AV系统，未来研究亟需制定专门的安全议程。