[论文解读] Human-Centered Autonomous Vehicle Systems: Principles of Effective Shared Autonomy

Lex Fridman|arXiv (Cornell University)|Oct 3, 2018

Ethics and Social Impacts of AI被引用 32

一句话总结

本文提出了一种以人为本的自动驾驶车辆框架，基于共享自主的七个原则，强调持续的人机协作、实时驾驶员状态感知、深度个性化以及系统局限性的透明沟通。以人为本的自动驾驶车辆（HCAV）原型表明，当人工智能与驾驶员共同感知和共同控制时，共享自主能够带来比完全自动化或僵化自动化等级更安全、更愉悦、更值得信赖的驾驶体验。

ABSTRACT

Building effective, enjoyable, and safe autonomous vehicles is a lot harder than has historically been considered. The reason is that, simply put, an autonomous vehicle must interact with human beings. This interaction is not a robotics problem nor a machine learning problem nor a psychology problem nor an economics problem nor a policy problem. It is all of these problems put into one. It challenges our assumptions about the limitations of human beings at their worst and the capabilities of artificial intelligence systems at their best. This work proposes a set of principles for designing and building autonomous vehicles in a human-centered way that does not run away from the complexity of human nature but instead embraces it. We describe our development of the Human-Centered Autonomous Vehicle (HCAV) as an illustrative case study of implementing these principles in practice.

研究动机与目标

• 解决当前自动化范式将人类视为被动乘客或易出错操作员所带来的局限性。
• 将自动驾驶车辆的发展重新聚焦于共享自主作为核心设计哲学，而非过渡阶段。
• 通过将人类判断、感知和信任嵌入系统的决策循环，克服完全自动化的不足。
• 开发一种能够透明沟通系统局限性的系统，以建立驾驶员信任并实现共享情境意识。
• 创造一种整体性驾驶体验，使安全与愉悦源于系统级整合，而非孤立的组件优化。

提出的方法

• 将共享自主定义并倡导为完全自动化唯一可行的替代方案，拒绝传统SAE等级（L0–L5）作为误导性分类。
• 采用仅基于摄像头和深度学习的视觉系统，实现感知、运动规划、驾驶员状态感知和语音交互。
• 整合多模态人类状态感知（视觉、听觉、触觉），实现实时且长期的驾驶员状态监测。
• 通过语音指令和方向盘扭矩反馈实现双向控制权转移，以维持共享情境意识。
• 应用持续的机器学习，将车辆行为个性化适配至个体驾驶员，使AI行为与人类驾驶风格保持一致。
• 实时可视化AI对世界的感知结果，以透明方式向驾驶员传达不确定性与系统边界。

实验结果

研究问题

• RQ1 如何设计自动驾驶系统，以在不损害安全或性能的前提下保持人类参与？
• RQ2 实时、多模态的人类状态感知在实现有效共享自主中发挥何种作用？
• RQ3 能否以一种增强信任而非削弱信任的方式传达系统局限性？
• RQ4 对AI行为进行深度个性化如何改善驾驶体验与系统可靠性？
• RQ5 与单独优化各组件相比，优化整体共享体验的系统性优势是什么？

主要发现

• HCAV原型成功展示了仅使用摄像头和机器学习即可实现共享自主，证明了全传感器套件并非实现有效自动化的必要条件。
• 对AI环境感知的实时可视化显著提升了驾驶员对系统能力与局限性的理解。
• 透明传达系统不确定性——而非隐藏它——被证实是建立信任并实现有效人机协作的关键。
• 对AI行为进行深度个性化以适配个体驾驶员，带来了比通用自动化模型更自然、直观且更安全的交互体验。
• 系统级优化——聚焦于整合的人机交互体验——相比仅优化组件，产生了更安全、更愉悦的结果。
• 在保持驾驶员参与度和情境意识方面，共享自主模式优于完全自动化，尤其是在边缘情况和系统不确定性情境下。