[논문 리뷰] Blaming humans in autonomous vehicle accidents: Shared responsibility across levels of automation

Edmond Awad, Sydney Levine외 6명|arXiv (Cornell University)|2018. 03. 19.

Law, Economics, and Judicial Systems참고 문헌 1인용 수 26

한 줄 요약

이 연구는 반자율주행차 사고에서 인간과 기계 운전자가 공동으로 제어를 맡는 상황에서의 비난 책임 부여를 조사한다. 미국 참가자들을 대상으로 한 세 차례의 실험적 연구를 통해, 한 명의 운전자가 실수를 했을 경우, 그 운전자가 인간이든 기계이든 전적으로 비난을 지니게 되며, 둘 다 실수를 했을 경우 기계에 대한 비난이 상당히 감소하는 것으로 나타났다. 이는 AI가 차량에서 작동할 때 규제 감시를 약화시킬 수 있는 체계적 공공의 편향을 시사한다.

ABSTRACT

When a semi-autonomous car crashes and harms someone, how are blame and causal responsibility distributed across the human and machine drivers? In this article, we consider cases in which a pedestrian was hit and killed by a car being operated under shared control of a primary and a secondary driver. We find that when only one driver makes an error, that driver receives the blame and is considered causally responsible for the harm, regardless of whether that driver is a machine or a human. However, when both drivers make errors in cases of shared control between a human and a machine, the blame and responsibility attributed to the machine is reduced. This finding portends a public under-reaction to the malfunctioning AI components of semi-autonomous cars and therefore has a direct policy implication: a bottom-up regulatory scheme (which operates through tort law that is adjudicated through the jury system) could fail to properly regulate the safety of shared-control vehicles; instead, a top-down scheme (enacted through federal laws) may be called for.

연구 동기 및 목표

• 반자율주행차에서 인간과 기계 운전자가 공동 제어를 맡는 상황에서 발생한 사고에서 공공의 비난과 원인 책임이 어떻게 분배되는지 조사하기 위해.
• 공공이 사고에 기여한 경우, 인간 운전자보다 AI 시스템에 더 많은 비난을 부여하는지 평가하기 위해.
• 공동 책임이 AI 구성 요소에 대한 인식된 비난을 줄이는지 평가하기 위해. 이는 규제 책임 감시를 약화시킬 수 있다.
• 미래 자율주행차 기술의 맥락에서 손해배상법 및 규제 정책에 대한 함의를 탐색하기 위해.

제안 방법

• 미국 참가자들을 대상으로 한 세 차례의 간접적 실험 연구를 수행하였으며, 아마존 메카니컬 터크를 통해 모집하였다.
• 공동 제어 구성에서 주 운전자와 보조 운전자(인간 또는 기계)가 포함된 사고 시나리오를 묘사한 비문(비문)을 사용하였다.
• 참가자들이 '나쁜 개입'(개입으로 인한 피해)과 '개입을 놓침'(무시로 인한 피해)의 시나리오를 읽은 후, 100점 척도를 사용해 비난 가능성과 원인 책임을 측정하였다.
• 자동차 유형(인간 전용, 인간-기계, 기계-인간, 기계 전용)과 대리자(차량, 기업, 프로그래머)를 다양화하여 다양한 주체에 대한 책임 부여를 평가하였다.
• 배제 기준 적용: 모든 설문 항목을 완료하고, 텍스트 이미지의 정확한 전사, 각 연구에서 고유한 터크ID를 확보하여 데이터 품질을 확보하였다.
• 조건 간 응답을 분석하여 운전자 유형과 실수 유형에 따라 비난 부여의 차이를 평가하였다.

실험 결과

연구 질문

• RQ1 공동 제어 차량 사고에서 한 명의 운전자(인간 또는 기계)만 실수를 했을 경우 비난은 어떻게 분배되는가?
• RQ2 공동 제어 사고 시나리오에서 인간과 기계 운전자가 모두 실수를 했을 경우 비난은 어떻게 변화하는가?
• RQ3 인간과 기계가 모두 책임이 있을 경우, 기계에 대한 비난이 기계만 실수했을 때보다 줄어드는가?
• RQ4 단일 및 이중 운전자 상황에서 다양한 주체(예: 차량, 기업, 프로그래머)에 대한 원인 책임 부여는 어떻게 달라지는가?

주요 결과

• 한 명의 운전자가 실수를 했을 경우, 그 운전자가 인간이든 기계이든 전적으로 비난과 원인 책임이 부여된다. 이는 운전자 유형과 관계없이 동일하다.
• 인간과 기계 운전자가 모두 실수를 했을 경우, 기계에 대한 비난은 인간에 비해 유의미하게 낮게 부여되며, 이는 인간 책임에 대한 편향을 시사한다.
• 양측이 실수를 했을 경우 기계에 대한 비난 감소는 반자율주행차에서 고장난 AI 구성 요소에 대한 공공의 반응 부족을 암시한다.
• 이러한 비난 분배 패턴은 법원 재판부가 참여하는 하향식 손해배상 제도의 효과성을 떨어뜨리며, 재판부가 AI 시스템에 대한 충분한 책임을 지지 못할 수 있음을 시사한다.
• 이러한 발견은 공동 제어 자율주행차의 안전 감시를 보장하기 위해 연방법률과 같은 상향식 규제 프레임워크가 필요할 수 있음을 암시한다.