[論文レビュー] Fast or Accurate? Governing Conflicting Goals in Highly Autonomous Vehicles

A. Feder Cooper, Karen Levy|arXiv (Cornell University)|Aug 3, 2022

Human-Automation Interaction and Safety被引用数 4

ひとこと要約

本論文は、自動運転車（AV）における速度と正確性の間の重要な工学的トレードオフを、規制上の中心的課題として特定し、政策立案者がこの緊張を管理することで、安全性、責任の所在、公平性を確保する必要があると提言する。AVシステムが応答性と正確性のバランスをどのようにとるかを分析することで、著者たちは、製造業者から一般市民へ権力の移行を図る、事前安全基準と事後責任メカニズムの整備を主張する。

ABSTRACT

The tremendous excitement around the deployment of autonomous vehicles (AVs) comes from their purported promise. In addition to decreasing accidents, AVs are projected to usher in a new era of equity in human autonomy by providing affordable, accessible, and widespread mobility for disabled, elderly, and low-income populations. However, to realize this promise, it is necessary to ensure that AVs are safe for deployment, and to contend with the risks AV technology poses, which threaten to eclipse its benefits. In this Article, we focus on an aspect of AV engineering currently unexamined in the legal literature, but with critical implications for safety, accountability, liability, and power. Specifically, we explain how understanding the fundamental engineering trade-off between accuracy and speed in AVs is critical for policymakers to regulate the uncertainty and risk inherent in AV systems. We discuss how understanding the trade-off will help create tools that will enable policymakers to assess how the trade-off is being implemented. Such tools will facilitate opportunities for developing concrete, ex ante AV safety standards and conclusive mechanisms for ex post determination of accountability after accidents occur. This will shift the balance of power from manufacturers to the public by facilitating effective regulation, reducing barriers to tort recovery, and ensuring that public values like safety and accountability are appropriately balanced.

研究の動機と目的

• 自動運転車（AV）システムにおける速度と正確性の間の未検討の工学的トレードオフを、安全性と責任の所在において重要な要因として特定すること。
• AV開発および導入において、この技術的トレードオフを考慮しない法律的・規制的枠組みの欠如に対処すること。
• AVシステムにおける速度と正確性のトレードオフの実装方法を評価できるように、政策立案者にツールを提供すること。
• AV事故後に、明確な事後責任メカニズムを確立するため、具体的な事前安全基準を策定すること。
• 規制設計に安全や公平性といった公共価値を組み込むことで、自動運転車の製造業者から一般市民へ権力の再配分を図ること。

提案手法

• AVの認識および意思決定システムの技術的アーキテクチャを分析し、速度と正確性のトレードオフが生じる場所を特定する。
• リアルタイム処理制約が、衝突回避のような高リスクな状況におけるAVの反応にどのように影響するかを検討する。
• 速度と正確性のトレードオフを、技術的必然性ではなく、規制可能な変数として扱う規制枠組みを提言する。
• AVシステムが設計および運用段階で速度と正確性のどちらを優先しているかを評価するための概念的ツールを構築する。
• 法的および技術的視点を統合し、導入前（ex ante）に適用可能な基準と、事故後に使用可能なメカニズムを提案する。
• 事例に基づく推論を用いて、異なるトレードオフの選択が、責任の所在および一般市民のAVに対する信頼にどのように影響するかを説明する。

実験結果

リサーチクエスチョン

• RQ1 AVシステムにおける速度と正確性のトレードオフは、安全性の結果および事故の責任にどのように影響するか？
• RQ2 AV工学的意思決定における速度と正確性のトレードオフを規制的に管理するためのメカニズムは、どのように開発できるか？
• RQ3 政策立案者は、一般の安全性を損なうような形でAVシステムが速度を正確性よりも優先しているかどうかを、どのように評価できるか？
• RQ4 現在、このトレードオフに規制的注意が向けられていないことで、AV事故後の責任の所在がどのように損なわれているか？
• RQ5 公平性や安全性といった公共価値を反映させるために、事前基準および事後責任メカニズムは、どのように設計できるか？

主な発見

• AVシステムにおける速度と正確性のトレードオフは、安全性および責任の結果に直接影響を与える根本的な工学的制約である。
• 現在の法律的・規制的枠組みは、このトレードオフを十分に考慮しておらず、責任の所在とリスク管理のギャップを生じさせている。
• 政策立案者は、AVが速度と正確性のトレードオフをどのように実装しているかを評価するためのツールを開発できる。
• トレードオフの管理に基づく事前安全基準を設けることで、導入前の不適切なAV行動のリスクを低減できる。
• AVの意思決定プロセスにおける速度と正確性のバランスの分析を含めることで、事故後の責任メカニズムをより明確にできる。
• このトレードオフに規制の焦点を移すことで、製造業者から一般市民へ権力の再配分が可能となり、AV導入における公平性と透明性が向上する。