[论文解读] Designing Automated Vehicle and Traffic Systems towards Meaningful Human Control

Simeon C. Calvert, Stig Ole Johnsen+1 more|arXiv (Cornell University)|Mar 9, 2023

Safety Systems Engineering in Autonomy被引用 4

一句话总结

本文提出了一种集成系统邻近性框架和操作流程设计方法，以在联网自动驾驶汽车（CAVs）中嵌入有意义的人类控制（MHC），使车辆设计者和政府能够系统性地确保人类监督。通过整合隐式邻近更新机制与显式远距离更新机制，该框架提升了系统安全性和问责性，已在三个现实世界案例中得到验证，并呼吁将MHC正式嵌入法规和设计流程中。

ABSTRACT

Ensuring operational control over automated vehicles is not trivial and failing to do so severely endangers the lives of road users. An integrated approach is necessary to ensure that all agents play their part including drivers, occupants, vehicle designers and governments. While progress is being made, a comprehensive approach to the problem is being ignored, which can be solved in the main through considering Meaningful Human Control (MHC). In this research, an Integrated System Proximity framework and Operational Process Design approach to assist the development of Connected Automated Vehicles (CAV) under the consideration of MHC are introduced. These offer a greater understanding and basis for vehicle and traffic system design by vehicle designers and governments as two important influencing stakeholders. The framework includes an extension to a system approach, which also considers ways that MHC can be improved through updating: either implicit proximal updating or explicit distal updating. The process and importance are demonstrated in three recent cases from practice. Finally, a call for action is made to government and regulatory authorities, as well as the automotive industry, to ensure that MHC processes are explicitly included in policy, regulations, and design processes to ensure future ad-vancement of CAVs in a responsible, safe and humanly agreeable fashion.

研究动机与目标

• 解决自动驾驶汽车系统中保持操作控制的严峻挑战，以防止危及道路使用者。
• 开发一种全面的集成方法，使车辆设计者、乘客和政府共同参与确保人类监督。
• 通过结构化的系统与流程设计框架，实现有意义的人类控制（MHC）的可操作化。
• 通过真实世界的CAV案例，展示该框架的实际适用性。
• 倡导将MHC作为强制性组成部分，纳入自动驾驶汽车的开发与政策制定中。

提出的方法

• 开发集成系统邻近性框架，以建模车辆与交通系统中的人机交互。
• 整合两种更新机制：隐式邻近更新（实时、本地化控制）与显式远距离更新（审慎、政策层面的监督）。
• 应用操作流程设计方法，以结构化方式贯穿系统生命周期各阶段的人类控制。
• 利用三个近期的CAV案例，说明该框架如何在实践中支持MHC。
• 将设计者、监管机构和用户等利益相关方的角色整合进统一的控制架构中。
• 通过将MHC作为核心原则，使系统设计与法规及伦理标准保持一致。

实验结果

研究问题

• RQ1 如何系统性地将有意义的人类控制（MHC）嵌入联网自动驾驶汽车（CAVs）的设计中？
• RQ2 哪些结构性与程序性机制能够实现自动驾驶汽车与交通系统中有效的人类监督？
• RQ3 邻近（隐式）与远距离（显式）更新机制如何共同维持MHC？
• RQ4 车辆设计者与政府如何协作确保MHC在CAV开发中的实现？
• RQ5 哪些实际案例能够证明MHC在真实世界CAV部署中集成的可行性和价值？

主要发现

• 集成系统邻近性框架为在CAV与交通系统设计中嵌入MHC提供了结构化方法。
• 隐式邻近更新与显式远距离更新的结合，同时增强了实时响应能力与长期问责性。
• 三个真实世界的CAV案例证明了该框架在多样化运行情境下的实际可行性。
• 该框架支持一种全面的、利益相关方参与的系统设计方法，优先保障安全与人类自主权。
• 将MHC作为正式要求纳入法规与产业实践，对负责任的CAV发展至关重要。
• 本研究为政策整合奠定了基础，呼吁在未来标准与设计流程中纳入MHC。