[論文レビュー] Blaming humans in autonomous vehicle accidents: Shared responsibility across levels of automation

Edmond Awad, Sydney Levine+6 more|arXiv (Cornell University)|Mar 19, 2018

Law, Economics, and Judicial Systems参考文献 1被引用数 26

ひとこと要約

本研究は、人間と機械のドライバーが共同制御を行う半自律走行車の衝突事故における非難の帰属を調査する。米国の参加者を対象とした3つの実験的調査を通じ、片方のドライバーのみが誤りを犯した場合、それが人間であろうと機械であろうと、そのドライバーに全責任が帰属する。しかし両者が誤った場合、機械に対する非難は顕著に減少し、AIの車両における監視規制を損なう可能性がある体系的公的バイアスが存在することが示唆される。

ABSTRACT

When a semi-autonomous car crashes and harms someone, how are blame and causal responsibility distributed across the human and machine drivers? In this article, we consider cases in which a pedestrian was hit and killed by a car being operated under shared control of a primary and a secondary driver. We find that when only one driver makes an error, that driver receives the blame and is considered causally responsible for the harm, regardless of whether that driver is a machine or a human. However, when both drivers make errors in cases of shared control between a human and a machine, the blame and responsibility attributed to the machine is reduced. This finding portends a public under-reaction to the malfunctioning AI components of semi-autonomous cars and therefore has a direct policy implication: a bottom-up regulatory scheme (which operates through tort law that is adjudicated through the jury system) could fail to properly regulate the safety of shared-control vehicles; instead, a top-down scheme (enacted through federal laws) may be called for.

研究の動機と目的

• 半自律走行車における人間ドライバーとAIドライバーの共同制御が関与する事故において、公衆が非難と因果的責任をどのように分配するかを検討すること。
• 両者が事故に寄与した場合でも、人間ドライバーに対してAIシステムよりも多くの非難を公衆が帰属するかどうかを評価すること。
• 共同責任がAI部品に対する認識上の非難を軽減するかどうかを評価し、規制上の責任の欠如を招く可能性を検討すること。
• 発展著しい自動走行車技術の文脈において、賠償法と規制政策に与える影響を検討すること。

提案手法

• 米国の参加者を対象とした3つの被験者間実験的研究を、Amazon Mechanical Turkを介して実施した。
• 主なドライバーと補助ドライバー（人間または機械）が共同制御構成で関与する事故シナリオを記述したビンケットを使用した。
• 「悪影響の介入」（介入によって被害が生じた場合）と「介入の不履行」（不作為によって被害が生じた場合）の2つのシナリオを読み聞かせた後、100点スケールで非難の帰属可能性と因果的責任を測定した。
• 車両タイプ（人間専用、人間-機械、機械-人間、機械専用）と代表者（車両、会社、プログラマー）を変化させ、異なる主体への帰属を評価した。
• 除外基準を適用：全アンケート項目の完了、画像テキストの正確な転写、各研究ごとに固有のTurkIDの使用により、データ品質を確保した。
• ドライバーの種別と誤りの種別に基づき、非難の割り当てに差が生じるかを、条件間で分析した。

実験結果

リサーチクエスチョン

• RQ1 共同制御走行車の事故において、片方のドライバー（人間または機械）のみが誤りを犯した場合、非難はどのように分配されるか？
• RQ2 人間ドライバーと機械ドライバーの両方が誤った場合、非難はどのように変化するか？
• RQ3 人間と機械の両方が責任を負う場合、機械に対する非難が、機械のみが責任を負う場合よりも軽減されるか？
• RQ4 単一および二重ドライバーのシナリオにおいて、さまざまな主体（例：車両、会社、プログラマー）に対する因果的責任の帰属は、どのように変化するか？

主な発見

• 片方のドライバーのみが誤りを犯した場合、それが人間であろうと機械であろうと、全責任と因果的責任がそのドライバーに帰属する。
• 人間ドライバーと機械ドライバーの両方が誤った場合、機械に対する非難は人間よりも顕著に減少し、人間責任へのバイアスが示唆される。
• 両者が誤った場合の機械に対する非難の減少は、半自律走行車における故障したAI部品に対する公的反応の不足を示唆する。
• この非難の分配パターンは、陪審員の判断に依存する下位から上位への賠償制度の有効性を損なう。陪審員がAIシステムを十分に責任あるものと認識しない可能性がある。
• これらの結果は、共同制御自動走行車の適切な安全性監視を保証するためには、連邦法などのトップダウン型規制枠組みが必要である可能性を示唆する。