[论文解读] The Moral Machine Experiment on Large Language Models

Kazuhiro Takemoto|PubMed|Sep 12, 2023

Ethics and Social Impacts of AI参考文献 9被引用 9

一句话总结

本论文使用 Moral Machine 框架评估领先的大型语言模型（GPT-3.5、GPT-4、PaLM 2、Llama 2）在道德判断上的倾向，并将其与人类偏好进行比较，揭示在定性一致性与定量差异方面双方均有体现。

ABSTRACT

As large language models (LLMs) have become more deeply integrated into various sectors, understanding how they make moral judgements has become crucial, particularly in the realm of autonomous driving. This study used the moral machine framework to investigate the ethical decision-making tendencies of prominent LLMs, including GPT-3.5, GPT-4, PaLM 2 and Llama 2, to compare their responses with human preferences. While LLMs' and humans' preferences such as prioritizing humans over pets and favouring saving more lives are broadly aligned, PaLM 2 and Llama 2, especially, evidence distinct deviations. Additionally, despite the qualitative similarities between the LLM and human preferences, there are significant quantitative disparities, suggesting that LLMs might lean toward more uncompromising decisions, compared with the milder inclinations of humans. These insights elucidate the ethical frameworks of LLMs and their potential implications for autonomous driving.

研究动机与目标

• 理解 LLM 驱动的决策在自动驾驶场景中与人类道德判断的一致性。
• 比较领先 LLM 的道德偏好与人类偏好，以评估伦理对齐。
• 识别哪些模型偏离人类规范以及这种偏离如何表现。
• 评估在 LLM 道德决策中，定性相似性是否掩盖定量差异。

提出的方法

• 将 Moral Machine 框架应用于探究若干 LLMs 的道德决策过程。
• 对 GPT-3.5、GPT-4、PaLM 2 和 Llama 2 进行与人类偏好的比较评估。
• 分析 LLMs 与人类之间的定性相似性与定量差异。
• 讨论这些在自动驾驶情境下对 LLMs 的伦理框架的影响。

实验结果

研究问题

• RQ1 在自动驾驶场景中，领先的 LLM 是否与人类道德偏好一致？
• RQ2 不同 LLM（GPT-3.5、GPT-4、PaLM 2、Llama 2）在道德判断上有何差异？
• RQ3 尽管存在定性相似性，LLM 的回答是否存在显著的定量差异？
• RQ4 这些 LLM 判断对自动驾驶的潜在伦理与实际影响是什么？

主要发现

• LLMs 的道德偏好在总体上与人类一致，倾向于让人类优先于宠物并拯救更多生命。
• PaLM 2 和 Llama 2 显示出与人类偏好明显的偏离。
• LLMs 与人类在定性上的相似性与在定量上的显著差异形成对比。
• LLMs 在道德情景中可能比人类更倾向于采取更不妥协的决策。
• 研究结果揭示了 LLM 的伦理框架及其对自动驾驶的影响。