[논문 리뷰] Human decisions in moral dilemmas are largely described by Utilitarianism: virtual car driving study provides guidelines for ADVs

Maximilian Alexander Wächter, Anja K. Faulhaber외 7명|arXiv (Cornell University)|2017. 06. 22.

Psychology of Moral and Emotional Judgment참고 문헌 4인용 수 3

한 줄 요약

이 연구는 가상현실 주행 시뮬레이션을 통해 자율주행차(AV) 상황에서 인간의 도덕적 의사결정을 조사한다. 참가자들은 나이, 집단 규모, 자가 희생 변수와 같은 요소가 있더라도 전체 피해를 최소화하는 것을 일관되게 선택하여 이성주의 원칙과 강하게 일치했으며, 이는 자율주행차 의사결정 알고리즘에 대한 이성주의 윤리적 프레임워크의 타당성을 뒷받침한다.

ABSTRACT

Ethical thought experiments such as the trolley dilemma have been investigated extensively in the past, showing that humans act in a utilitarian way, trying to cause as little overall damage as possible. These trolley dilemmas have gained renewed attention over the past years; especially due to the necessity of implementing moral decisions in autonomous driving vehicles. We conducted a set of experiments in which participants experienced modified trolley dilemmas as the driver in a virtual reality environment. Participants had to make decisionsbetween two discrete options: driving on one of two lanes where different obstacles came into view. Obstacles included a variety of human-like avatars of different ages and group sizes. Furthermore, we tested the influence of a sidewalk as a potential safe harbor and a condition implicating a self-sacrifice. Results showed that subjects, in general, decided in a utilitarian manner, sparing the highest number of avatars possible with a limited influence of the other variables. Our findings support that human behavior is in line with the utilitarian approach to moral decision making. This may serve as a guideline for the implementation of moral decisions in ADVs.

연구 동기 및 목표

• 자율주행차(AV) 상황에서 생명과 사망의 교환을 포함한 도덕적 의사결정을 인간이 어떻게 내리는지 조사하기 위해.
• 이러한 딜레마에서 인간의 행동이 이성주의 윤리와 일치하는지 평가하기 위해, 가장 많은 수의 사람에게 가장 큰 복지를 제공하는 것을 우선시하는 원칙이다.
• 아바타의 나이, 집단 규모, 안전한 보도 존재 여부와 같은 변수가 인간의 의사결정에 미치는 영향을 평가하기 위해.
• 실세계 자율주행차(ADVs)에 윤리적 의사결정 시스템을 구현하기 위한 경험적 지침을 제공하기 위해.

제안 방법

• 참가자들이 시뮬레이션된 트롤리 유사 딜레마에서 운전수로 행동하는 가상현실 주행 실험을 수행하였다.
• 각각 다른 수의 인간 유사 아바타(나이와 집단 규모 다양)로 이어지는 두 개의 차선 선택지를 제시하였다.
• 안전한 보도(잠재적 안전항구) 조건과 자가 희생 시나리오를 통합하여 윤리적 트레이드오프를 시험하였다.
• 선택지를 수집하고 분석하여 선택이 총 피해를 최소화하는 방식으로 이성주의 논리에 따르는지 판단하였다.
• 통계적 분석을 통해 인구통계학적 및 환경적 변수가 의사결정 결과에 미치는 영향을 평가하였다.
• 행동 데이터를 적용하여 윤리적 의사결정 패턴을 유추하고, 이성주의 이론과 비교하였다.

실험 결과

연구 질문

• RQ1 가상 주행 시나리오에서 인간 참가자들이 총 피해를 최소화하는 것을 우선시하는 결정을 내리는가, 이는 이성주의와 일치하는가?
• RQ2 아바타의 나이, 집단 규모, 보도 존재 여부와 같은 요소들이 자율주행차 딜레마에서 도덕적 결정에 어떻게 영향을 미치는가?
• RQ3 자기 희생이 시나리오에 포함될 경우 참가자들의 이성주의 의사결정 경향이 변화하는가?
• RQ4 실세계에서 시뮬레이션된 자율주행차 딜레마에서 인간의 의사결정이 이성주의 윤리적 프레임워크와 어느 정도 일치하는가?

주요 결과

• 참가자들은 압도적으로 더 많은 아바타를 구하는 선택지를 선택하여 강력한 이성주의 의사결정 패tern을 보였다.
• 보도 존재 여부 또는 자가 희생 조건이 의사결정 결과에 미치는 영향은 미미하여 총 피해 최소화가 여전히 주요 요소로 남아 있음을 시사했다.
• 아바타의 나이와 집단 규모는 측정 가능한 영향을 미쳤지만 보조적 효과였으며, 참가자들은 일반적으로 더 큰 집단이나 더 어린 사람들을 구하는 것을 선호했다.
• 다양한 시나리오에서 일관된 이성주의 행동 패턴이 관찰되어 ADV에 이성주의 알고리즘을 적용하는 것이 타당하다고 지지한다.
• 자기 희생 시나리오에서도 참가자들이 일관되게 자신을 희생시키지 않았지만 여전히 총 사망자를 최소화하는 것을 우선시했다.
• 종합적으로 인간의 의사결정은 이성주의 원칙에 기반해 대부분 예측 가능했으며, 감정적 또는 맥락적 요소에 의해 약간의 변동만 있었다.