[論文レビュー] Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?

Jean‐François Bonnefon, Azim Shariff+1 more|arXiv (Cornell University)|Oct 12, 2015

Ethics and Social Impacts of AI参考文献 13被引用数 76

ひとこと要約

本論文は、自律走行車（AV）における功利主義的意思決定の倫理的ジレンマを調査し、人々が原則として功利主義的AVを支持している一方で、多くの人が自らの乗客を守る非功利主義的AVを好むことを見出した。研究は、功利主義的アルゴリズムを強制すれば採用が減少し、死亡者数が増加するというパラドックスを明らかにした。これはAVの安全性の恩恵を損なうものである。

ABSTRACT

Autonomous Vehicles (AVs) should reduce traffic accidents, but they will sometimes have to choose between two evils-for example, running over pedestrians or sacrificing itself and its passenger to save them. Defining the algorithms that will help AVs make these moral decisions is a formidable challenge. We found that participants to six MTurk studies approved of utilitarian AVs (that sacrifice their passengers for the greater good), and would like others to buy them, but they would themselves prefer to ride in AVs that protect their passengers at all costs. They would disapprove of enforcing utilitarian AVs, and would be less willing to buy such a regulated AV. Accordingly, regulating for utilitarian algorithms may paradoxically increase casualties by postponing the adoption of a safer technology.

研究の動機と目的

• 自律走行車における功利的 vs. 非功利的意思決定に対する一般大衆の態度を調査すること。
• 功利主義的AVの道徳的承認と、自らの乗客を守るAVへの個人的好みの間のギャップを調査すること。
• 功利主義的アルゴリズムを規制することでAVの採用が妨げられ、全体的な死亡者数が増加するかどうかを評価すること。
• この倫理的ジレンマが政策立案および技術導入に与える影響を検討すること。

提案手法

• MTurkを活用した6つの研究を通じて、一般大衆のAVの道徳的意思決定に対する態度を調査した。
• 乗客と歩行者の安全の間のトレードオフを含む仮想の状況を提示した。
• 功利主義的AVの承認度、それらの購入意思、およびこうしたアルゴリズムを規制することへの賛同度を測定した。
• 自らの乗客を守るAVと利他のAVの間での個人的好みに関するデータを収集した。
• 表明された道徳的承認と実際の行動的好みの乖離を分析した。
• アンケートデータを用いて、功利主義的AVの規制が現実世界に与える影響をモデル化した。

実験結果

リサーチクエスチョン

• RQ1 乗客を犠牲にしてより多くの歩行者を救う功利主義的AVを人々は承認するのか？
• RQ2 個人は、自らの安全を最優先するのではなく、全体の利益を最優先するAVに乗ることを好むのか？
• RQ3 人々は政府による功利主義的AVアルゴリズムの義務化を支持するのか？
• RQ4 功利主義的アルゴリズムを強制すれば、人々のAV購入意思が低下するのか？
• RQ5 功利主義的AVの規制が、採用の遅延を招き、結果的に全体の死亡者数を増加させるという逆説的結果をもたらす可能性はあるか？

主な発見

• 参加者は理論的には功利主義的AVを承認しており、全体的な被害を最小限に抑えるアルゴリズムを支持した。
• この承認にもかかわらず、参加者は自らの乗客を何としてでも守るAVを好んだ。
• 参加者は規制による功利主義的アルゴリズムの強制を否定的と感じた。
• 規制された功利主義的AVは購入されにくく、採用に対する抑制要因となった。
• 好みのギャップは、功利主義の強制がAVの導入を遅らせ、死亡者数を増加させる可能性を示唆している。
• 本研究は、功利主義的AVに規制を課すことは逆効果的に全体の安全性を低下させる可能性があると結論づけた。