[论文解读] Autonomous Vehicles Need Experimental Ethics: Are We Ready for Utilitarian Cars?

Jean‐François Bonnefon, Azim Shariff+1 more|arXiv (Cornell University)|Oct 12, 2015

Ethics and Social Impacts of AI参考文献 13被引用 76

一句话总结

本文研究了自动驾驶汽车（AV）中功利主义决策的伦理困境，发现尽管人们在原则上支持功利主义的AV——即优先考虑整体利益——但大多数人更倾向于选择不功利主义的AV，以保护自身乘客。研究揭示了一个悖论：强制推行功利主义算法可能降低公众采纳率并增加伤亡人数，从而削弱AV的安全效益。

ABSTRACT

Autonomous Vehicles (AVs) should reduce traffic accidents, but they will sometimes have to choose between two evils-for example, running over pedestrians or sacrificing itself and its passenger to save them. Defining the algorithms that will help AVs make these moral decisions is a formidable challenge. We found that participants to six MTurk studies approved of utilitarian AVs (that sacrifice their passengers for the greater good), and would like others to buy them, but they would themselves prefer to ride in AVs that protect their passengers at all costs. They would disapprove of enforcing utilitarian AVs, and would be less willing to buy such a regulated AV. Accordingly, regulating for utilitarian algorithms may paradoxically increase casualties by postponing the adoption of a safer technology.

研究动机与目标

• 调查公众对自动驾驶汽车中功利主义与非功利主义决策的立场。
• 探究对功利主义AV的道德认可与个人更倾向于选择自我保护AV之间的差距。
• 评估是否监管要求功利主义算法将阻碍AV的采纳并增加总体伤亡人数。
• 探讨这一伦理悖论对政策制定和技术部署的影响。

提出的方法

• 通过MTurk平台开展六项研究，调查公众对AV道德决策的态度。
• 向参与者呈现涉及乘客与行人安全之间权衡的假设情景。
• 测量对功利主义AV的赞成度、购买意愿，以及对监管此类算法的支持度。
• 收集个人对自我保护型AV与利他型AV的偏好数据。
• 分析公开声明的道德认可与实际行为偏好的差异。
• 利用调查数据模拟监管功利主义AV算法在现实世界中的潜在影响。

实验结果

研究问题

• RQ1 人们是否认可牺牲乘客以拯救更多行人的功利主义AV？
• RQ2 个人是否更倾向于乘坐优先保护自身安全而非整体利益的AV？
• RQ3 人们是否支持政府监管，强制要求采用功利主义AV算法？
• RQ4 强制推行功利主义算法是否会降低公众购买AV的意愿？
• RQ5 监管要求功利主义AV是否可能因延迟采纳而反而增加总体伤亡人数？

主要发现

• 参与者在理论上认可功利主义AV，支持能最小化总体伤害的算法。
• 尽管如此，参与者更倾向于乘坐能不惜一切代价保护自身乘客的AV。
• 参与者反对通过监管强制推行功利主义算法。
• 受监管的功利主义AV更难被购买，表明存在抑制采纳的机制。
• 偏好差距意味着强制推行功利主义可能延迟AV的部署并增加伤亡人数。
• 研究结论认为，对功利主义AV的监管强制可能反而降低整体安全性。