[論文レビュー] Human decisions in moral dilemmas are largely described by Utilitarianism: virtual car driving study provides guidelines for ADVs

Maximilian Alexander Wächter, Anja K. Faulhaber+7 more|arXiv (Cornell University)|Jun 22, 2017

Psychology of Moral and Emotional Judgment参考文献 4被引用数 3

ひとこと要約

本研究では、仮想現実ドライブシミュレーションを用いて、自律走行車（AV）シナリオにおける人間の道徳的意思決定を調査した。参加者は、年齢、グループサイズ、自己犠牲の変数に関わらず、常に全体的な被害を最小限に抑える選択を示し、明確に功利主義的原則に一致していた。これは、AV意思決定アルゴリズムのための功利主義的枠組みが現実的であることを支持する。

ABSTRACT

Ethical thought experiments such as the trolley dilemma have been investigated extensively in the past, showing that humans act in a utilitarian way, trying to cause as little overall damage as possible. These trolley dilemmas have gained renewed attention over the past years; especially due to the necessity of implementing moral decisions in autonomous driving vehicles. We conducted a set of experiments in which participants experienced modified trolley dilemmas as the driver in a virtual reality environment. Participants had to make decisionsbetween two discrete options: driving on one of two lanes where different obstacles came into view. Obstacles included a variety of human-like avatars of different ages and group sizes. Furthermore, we tested the influence of a sidewalk as a potential safe harbor and a condition implicating a self-sacrifice. Results showed that subjects, in general, decided in a utilitarian manner, sparing the highest number of avatars possible with a limited influence of the other variables. Our findings support that human behavior is in line with the utilitarian approach to moral decision making. This may serve as a guideline for the implementation of moral decisions in ADVs.

研究の動機と目的

• 自律走行車（AV）シナリオにおける生死のトレードオフを伴う状況で、人間がどのように道徳的意思決定を行うかを調査すること。
• このようなジレンマにおける人間の行動が、多数の者に最大の利益をもたらすという功利主義的倫理と一致するかどうかを評価すること。
• アバターの年齢、グループサイズ、安全な歩道の有無といった変数が人間の意思決定に与える影響を評価すること。
• 実世界の自律走行車（ADVS）における道徳的意思決定システムの実装に、実証的ガイドラインを提供すること。

提案手法

• 参加者が模擬トロリー・ライクなジレンマにおいてドライバーとして振る舞う仮想現実ドライブ実験を実施した。
• 参加者に、年齢やグループサイズが異なる人間のようなアバターの数が異なる2本のレーンを選択肢として提示した。
• 安全な避難所としての歩道の有無や、自己犠牲のシナリオを組み込み、道徳的トレードオフをテストした。
• 選択肢を収集・分析し、合計被害を最小限に抑えるという功利的論理に従っているかどうかを判断した。
• 統計的分析を用いて、人口統計的および環境的変数が意思決定結果に与える影響を評価した。
• 行動データを応用して道徳的意思決定のパターンを推定し、功利主義理論と比較した。

実験結果

リサーチクエスチョン

• RQ1 仮想ドライブシナリオにおける人間参加者は、功利主義に一致するように、合計被害を最小限に抑える選択を行うか？
• RQ2 アバターの年齢、グループサイズ、歩道の有無といった要因は、AVジレンマにおける道徳的意思決定にどのように影響するか？
• RQ3 自己犠牲がシナリオに含まれることで、参加者の功利的意思決定への傾向は変化するか？
• RQ4 実世界の人間の意思決定が、模擬AVジレンマにおいてどの程度功利主義的倫理枠組みと一致するか？

主な発見

• 参加者は、アバターの数が多い方の選択肢を圧倒的に選択し、明確な功利的意思決定パターンを示した。
• 歩道の有無や自己犠牲の条件が意思決定結果にほとんど影響を与えないことから、合計被害の最小化が主な要因のままだった。
• アバターの年齢やグループサイズは測定可能なが、二次的な影響を及ぼし、参加者は一般的に大人数または若年齢の者を救う傾向を示した。
• 多様なシナリオにおいて一貫した功利的行動が観察されたことから、ADVSにおける功利的アルゴリズムの使用が支持された。
• 自己犠牲のシナリオでさえも、参加者が自分自身を犠牲にするとは限らず、依然として合計死亡者数の最小化を優先した。
• 総じて、人間の意思決定は功利主義的原則に基づいてほぼ予測可能であり、感情的または文脈的要因によるわずかな逸脱が見られた。