[论文解读] Human decisions in moral dilemmas are largely described by Utilitarianism: virtual car driving study provides guidelines for ADVs

Maximilian Alexander Wächter, Anja K. Faulhaber+7 more|arXiv (Cornell University)|Jun 22, 2017

Psychology of Moral and Emotional Judgment参考文献 4被引用 3

一句话总结

本研究通过虚拟现实驾驶模拟，调查了人类在自动驾驶汽车（AV）情境下的道德决策行为。参与者始终选择能最小化总体伤害的选项，强烈符合功利主义原则，即使在涉及年龄、群体规模或自我牺牲的变量下也是如此——这支持了功利主义作为自动驾驶汽车决策算法可行伦理框架的观点。

ABSTRACT

Ethical thought experiments such as the trolley dilemma have been investigated extensively in the past, showing that humans act in a utilitarian way, trying to cause as little overall damage as possible. These trolley dilemmas have gained renewed attention over the past years; especially due to the necessity of implementing moral decisions in autonomous driving vehicles. We conducted a set of experiments in which participants experienced modified trolley dilemmas as the driver in a virtual reality environment. Participants had to make decisionsbetween two discrete options: driving on one of two lanes where different obstacles came into view. Obstacles included a variety of human-like avatars of different ages and group sizes. Furthermore, we tested the influence of a sidewalk as a potential safe harbor and a condition implicating a self-sacrifice. Results showed that subjects, in general, decided in a utilitarian manner, sparing the highest number of avatars possible with a limited influence of the other variables. Our findings support that human behavior is in line with the utilitarian approach to moral decision making. This may serve as a guideline for the implementation of moral decisions in ADVs.

研究动机与目标

• 调查人类在涉及生死抉择的自动驾驶汽车（AV）情境中如何做出道德决策。
• 评估人类在这些困境中的行为是否与功利主义伦理一致，即优先考虑最大多数人的最大利益。
• 评估诸如角色年龄、群体规模以及是否有安全人行道等变量对人类决策的影响。
• 为在现实世界自动驾驶汽车（ADVs）中实施道德决策系统提供实证指导。

提出的方法

• 开展了一项虚拟现实驾驶实验，参与者作为驾驶员在模拟的电车难题情境中行动。
• 向参与者提供两条车道的选择，每条车道通往不同数量、不同年龄和群体规模的类人角色。
• 引入存在人行道（潜在安全避难所）和自我牺牲情境的条件，以检验道德权衡。
• 收集并分析决策数据，以确定选择是否遵循功利主义逻辑（即最小化总体伤害）。
• 使用统计分析评估人口统计和环境变量对决策结果的影响。
• 应用行为数据推断道德决策模式，并与功利主义理论进行比较。

实验结果

研究问题

• RQ1 在虚拟驾驶情境中，人类参与者是否做出优先最小化总体伤害的决策，与功利主义一致？
• RQ2 角色年龄、群体规模以及人行道的存在等因素如何影响自动驾驶汽车困境中的道德决策？
• RQ3 在情境中包含自我牺牲是否改变参与者倾向于功利主义决策的倾向？
• RQ4 现实世界中人类在模拟自动驾驶汽车困境中的决策，在多大程度上与功利主义伦理框架一致？

主要发现

• 参与者普遍选择能拯救最多角色的选项，表现出强烈的功利主义决策模式。
• 人行道的存在或自我牺牲情境对决策结果影响甚微，表明总体伤害最小化仍是主导因素。
• 角色的年龄和群体规模具有可测量但次要的影响，参与者通常更倾向于拯救更大群体或更年轻个体。
• 数据在多种情境下均表现出一致的功利主义行为，支持在自动驾驶汽车中采用功利主义算法。
• 即使在自我牺牲情境中，参与者也未始终选择牺牲自己，但仍优先考虑最小化总体死亡人数。
• 总体而言，人类决策在很大程度上可由功利主义原则预测，仅有轻微偏差受情感或情境因素影响。