[论文解读] Fast or Accurate? Governing Conflicting Goals in Highly Autonomous Vehicles

A. Feder Cooper, Karen Levy|arXiv (Cornell University)|Aug 3, 2022

Human-Automation Interaction and Safety被引用 4

一句话总结

本文将自动驾驶汽车（AV）在速度与准确性之间的关键工程权衡视为核心监管挑战，提出政策制定者必须管理这一张力，以确保安全、问责制和公平性。通过分析AV系统如何平衡响应速度与精度，作者主张建立事前安全标准和事后责任机制，将权力从制造商转移至公众。

ABSTRACT

The tremendous excitement around the deployment of autonomous vehicles (AVs) comes from their purported promise. In addition to decreasing accidents, AVs are projected to usher in a new era of equity in human autonomy by providing affordable, accessible, and widespread mobility for disabled, elderly, and low-income populations. However, to realize this promise, it is necessary to ensure that AVs are safe for deployment, and to contend with the risks AV technology poses, which threaten to eclipse its benefits. In this Article, we focus on an aspect of AV engineering currently unexamined in the legal literature, but with critical implications for safety, accountability, liability, and power. Specifically, we explain how understanding the fundamental engineering trade-off between accuracy and speed in AVs is critical for policymakers to regulate the uncertainty and risk inherent in AV systems. We discuss how understanding the trade-off will help create tools that will enable policymakers to assess how the trade-off is being implemented. Such tools will facilitate opportunities for developing concrete, ex ante AV safety standards and conclusive mechanisms for ex post determination of accountability after accidents occur. This will shift the balance of power from manufacturers to the public by facilitating effective regulation, reducing barriers to tort recovery, and ensuring that public values like safety and accountability are appropriately balanced.

研究动机与目标

• 识别自动驾驶汽车系统中未被充分审视的速度与准确性之间的工程权衡，作为安全与问责制的关键因素。
• 解决当前法律与监管框架中缺乏对AV开发与部署过程中这一技术权衡的考量的问题。
• 为政策制定者提供工具，以评估AV系统中速度与准确性权衡的实施方式。
• 支持制定具体的事前安全标准和事故后具有决定性的事后问责机制。
• 通过将安全与公平等公共价值嵌入监管设计，实现从AV制造商向公众的权力再平衡。

提出的方法

• 分析AV感知与决策系统的技术架构，以识别速度与准确性权衡出现的位置。
• 研究实时处理限制如何影响AV在高风险场景（如碰撞规避）中的响应。
• 提出将速度-准确性权衡视为可监管变量的监管框架，而非技术必然性。
• 为政策制定者开发概念性工具，以评估AV系统在设计与运行中对速度与准确性的优先排序。
• 整合法律与技术视角，提出可在部署前应用（事前）和事故后使用（事后）的标准。
• 运用案例推理说明不同权衡选择如何影响AV系统的责任归属与公众信任。

实验结果

研究问题

• RQ1 AV系统中的速度-准确性权衡如何影响安全结果与事故责任？
• RQ2 可开发何种监管机制来管理AV工程决策中的速度-准确性权衡？
• RQ3 政策制定者如何评估AV系统是否以损害公共安全的方式优先考虑速度而非准确性？
• RQ4 当前监管对这一权衡的忽视在AV事故发生后如何削弱问责制？
• RQ5 如何设计事前标准与事后问责机制，以体现公平性与安全等公共价值？

主要发现

• AV系统中的速度-准确性权衡是直接影响安全与责任结果的根本工程约束。
• 当前的法律与监管框架未能考虑这一权衡，导致问责制与风险管理方面存在漏洞。
• 政策制定者可开发工具，以评估AV如何实施速度-准确性权衡，从而实现更明智的监管。
• 基于权衡治理的事前安全标准可降低部署前不安全AV行为的风险。
• 若在AV决策过程中的速度与准确性平衡分析被纳入，事后责任机制将更具决定性。
• 将监管重点转向此权衡可实现从制造商向公众的权力再平衡，提升AV部署中的公平性与透明度。