[논문 리뷰] Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?

Jean‐François Bonnefon, Azim Shariff외 1명|arXiv (Cornell University)|2015. 10. 12.

Ethics and Social Impacts of AI참고 문헌 13인용 수 76

한 줄 요약

이 논문은 자율주행차(AV)에서의 유틸리타리안 의사결정의 윤리적 딜레마를 조사하며, 사람들이 원칙적으로는 더 큰 복지를 우선시하는 유틸리타리안 AV를 지지하지만, 대부분은 자신의 승객을 보호하는 비유틸리타리안 AV를 선호한다는 점을 발견한다. 이 연구는 모순을 드러내는데, 유틸리타리안 알고리즘을 의무화할 경우 수용률이 감소하고 사망자가 증가하여 AV의 안전성 향상 효과가 떨어질 수 있다.

ABSTRACT

Autonomous Vehicles (AVs) should reduce traffic accidents, but they will sometimes have to choose between two evils-for example, running over pedestrians or sacrificing itself and its passenger to save them. Defining the algorithms that will help AVs make these moral decisions is a formidable challenge. We found that participants to six MTurk studies approved of utilitarian AVs (that sacrifice their passengers for the greater good), and would like others to buy them, but they would themselves prefer to ride in AVs that protect their passengers at all costs. They would disapprove of enforcing utilitarian AVs, and would be less willing to buy such a regulated AV. Accordingly, regulating for utilitarian algorithms may paradoxically increase casualties by postponing the adoption of a safer technology.

연구 동기 및 목표

• 자율주행차에서 유틸리타리안 대비 비유틸리타리안 의사결정 방식에 대한 대중의 태도를 조사하기 위해.
• 유틸리타리안 AV에 대한 도덕적 지지를와 개인이 자신의 승객을 보호하는 AV를 선호하는 것 사이의 격차를 조사하기 위해.
• 유틸리타리안 알고리즘을 규제할 경우 자율주행차의 도입이 저해되고 전체 사망자가 증가할 수 있는지를 평가하기 위해.
• 이 윤리적 역설이 정책 및 기술 배포에 미치는 영향을 탐색하기 위해.

제안 방법

• 자율주행차 윤리적 의사결정에 대한 대중 태도를 조사하기 위해 6개의 MTurk 기반 연구를 수행하였다.
• 승객과 보행자의 안전 간의 상충 관계를 수반한 가상의 시나리오를 참가자들에게 제시하였다.
• 유틸리타리안 AV에 대한 승인도, 그러한 알고리즘을 규제하기 위한 의지, 그리고 유틸리타리안 AV의 구매 의사 등을 측정하였다.
• 개인의 자기 보호 중심 AV와 이타적 AV 사이의 선호도 데이터를 수집하였다.
• 공개된 도덕적 지지도와 실제 행동적 선호도 사이의 격차를 분석하였다.
• 설문 조사 데이터를 활용하여 유틸리타리안 AV 알고리즘 규제가 실제 세계에 미치는 영향을 모델링하였다.

실험 결과

연구 질문

• RQ1 사람들은 승객을 희생시켜 더 많은 보행자를 구하는 유틸리타리안 AV를 승인하는가?
• RQ2 사람들은 자신의 안전을 우선시하는 AV를 타는 것을 선호하는가?
• RQ3 사람들은 정부가 유틸리타리안 AV 알고리즘을 의무화하도록 규제하는 것을 지지하는가?
• RQ4 유틸리타리안 알고리즘을 의무화할 경우 사람들이 AV를 구매할 의욕이 줄어드는가?
• RQ5 유틸리타리안 AV 규제가 도입을 지연시켜 오히려 전체 사망자를 증가시킬 수 있는가?

주요 결과

• 참가자들은 유틸리타리안 AV를 이론적으로는 승인하였으며, 전체 피해를 최소화하는 알고리즘을 지지하였다.
• 이러한 승인에도 불구하고, 참가자들은 자신의 승객을 최우선으로 보호하는 AV를 선호하였다.
• 참가자들은 유틸리타리안 알고리즘을 규제로 의무화하는 것에 반대하였다.
• 규제된 유틸리타리안 AV는 구매 가능성이 낮아, 도입에 대한 저항 요인이 되었다.
• 선호도 격차는 유틸리타리안주의를 강제할 경우 자율주행차의 배치가 지연되고 사망자가 증가할 수 있음을 암시한다.
• 이 연구는 유틸리타리안 AV에 대한 규제 명령이 오히려 전체 안전성을 감소시킬 수 있다는 결론을 내린다.