[论文解读] Blaming humans in autonomous vehicle accidents: Shared responsibility across levels of automation

Edmond Awad, Sydney Levine+6 more|arXiv (Cornell University)|Mar 19, 2018

Law, Economics, and Judicial Systems参考文献 1被引用 26

一句话总结

本研究探讨了在人类与机器驾驶员共享控制的半自动驾驶汽车碰撞事故中，责任归因的问题。通过在美国参与者中开展的三项实验研究，发现当仅有一名驾驶员犯错时，无论其为人类还是机器，都将承担全部责任；然而，当双方驾驶员均犯错时，对机器的责任追究显著减少，表明公众存在一种系统性偏见，可能削弱对车辆中人工智能的监管监督。

ABSTRACT

When a semi-autonomous car crashes and harms someone, how are blame and causal responsibility distributed across the human and machine drivers? In this article, we consider cases in which a pedestrian was hit and killed by a car being operated under shared control of a primary and a secondary driver. We find that when only one driver makes an error, that driver receives the blame and is considered causally responsible for the harm, regardless of whether that driver is a machine or a human. However, when both drivers make errors in cases of shared control between a human and a machine, the blame and responsibility attributed to the machine is reduced. This finding portends a public under-reaction to the malfunctioning AI components of semi-autonomous cars and therefore has a direct policy implication: a bottom-up regulatory scheme (which operates through tort law that is adjudicated through the jury system) could fail to properly regulate the safety of shared-control vehicles; instead, a top-down scheme (enacted through federal laws) may be called for.

研究动机与目标

• 探讨在半自动驾驶汽车中，人类与机器驾驶员共享控制时，公众对责任与因果责任的分配方式。
• 评估公众是否在双方均对事故有贡献的情况下，对人类驾驶员的责备多于对人工智能系统的责备。
• 评估共同责任是否降低了公众对人工智能组件的责备程度，从而可能削弱监管问责机制。
• 探讨在新兴自动驾驶汽车技术背景下，对侵权法与监管政策的影响。

提出的方法

• 通过亚马逊机械 Turk 平台招募美国参与者，开展三项被试间实验研究。
• 使用描述碰撞情景的短文（vignettes），其中涉及主驾驶员与次驾驶员（人类或机器）在共享控制配置下的角色。
• 在参与者阅读‘错误干预’（由干预导致伤害）和‘未干预’（由不作为导致伤害）的情景后，使用100分制测量责任归属与因果责任。
• 通过改变车辆类型（仅人类、人机共驾、机人共驾、仅机器）和责任代表对象（车辆、公司、程序员）来评估对不同主体的责任归因。
• 应用排除标准：完成所有调查项目、正确转录文本图像、每项研究中唯一 TurkID，以确保数据质量。
• 分析不同条件下的响应，以评估基于驾驶员类型与错误类型的责任分配差异。

实验结果

研究问题

• RQ1 当仅有一名驾驶员（人类或机器）在共享控制的汽车碰撞中犯错时，责任如何分配？
• RQ2 当人类与机器驾驶员均在共享控制的碰撞情景中犯错时，责任如何转移？
• RQ3 当人类与机器均犯错时，公众是否比仅机器犯错时对机器的责备更少？
• RQ4 在单驾驶员与双驾驶员情景中，对不同主体（如车辆、公司、程序员）的因果责任归属如何变化？

主要发现

• 当仅有一名驾驶员犯错时——无论其为人类还是机器——该驾驶员将承担全部责任与因果责任，且与其类型无关。
• 当人类与机器驾驶员均犯错时，机器承担的责任显著少于人类，表明存在对人类责任的系统性偏见。
• 当双方均犯错时，对机器的责任减少，表明公众对半自动驾驶汽车中故障人工智能组件的反应不足。
• 这种责任分配模式削弱了依赖陪审团裁决的自下而上的侵权责任体系的有效性，因为陪审团可能无法充分追究人工智能系统的责任。
• 研究结果表明，可能需要自上而下的监管框架（如联邦立法）来确保对共享控制自动驾驶汽车的适当安全监管。