[论文解读] Perceptions of Sentient AI and Other Digital Minds: Evidence from the AI, Morality, and Sentience (AIMS) Survey

Jacy Reese Anthis, Janet V. T. Pauketat+2 more|arXiv (Cornell University)|Jul 11, 2024

Ethics and Social Impacts of AI被引用 4

一句话总结

本研究基于2021–2023年纵向调查（AIMS，N=3,500），首次提供了美国全国代表性调查数据，揭示公众对具有感知能力的AI的看法。研究发现，人们对AI的意识感知和道德关切持续上升，普遍支持禁止先进AI，且对具有感知能力的AI的出现时间预期较短，凸显了这些信念在人类-AI互动与AI安全方面对社会和设计的影响。

ABSTRACT

Humans now interact with a variety of digital minds, AI systems that appear to have mental faculties such as reasoning, emotion, and agency, and public figures are discussing the possibility of sentient AI. We present initial results from 2021 and 2023 for the nationally representative AI, Morality, and Sentience (AIMS) survey (N = 3,500). Mind perception and moral concern for AI welfare were surprisingly high and significantly increased: in 2023, one in five U.S. adults believed some AI systems are currently sentient, and 38% supported legal rights for sentient AI. People became more opposed to building digital minds: in 2023, 63% supported banning smarter-than-human AI, and 69% supported banning sentient AI. The median 2023 forecast was that sentient AI would arrive in just five years. The development of safe and beneficial AI requires not just technical study but understanding the complex ways in which humans perceive and coexist with digital minds.

研究动机与目标

• 了解公众对AI系统中人工感知能力与心智能力的看法。
• 考察人们如何从道德角度看待AI——是作为值得关心的道德受体，还是作为具有威胁性的道德主体。
• 评估公众对规范人类-AI互动政策的支持程度，包括禁令与权利。
• 预测公众对具有感知能力的AI及通用人工智能出现时间的预期。
• 通过纵向、预先注册的调查设计，追踪公众对AI感知能力看法随时间的变化。

提出的方法

• 对美国成年人进行了三波全国代表性调查（2021年、2023年、2023年），共收集N=3,500名受访者数据。
• 采用纵向、预先注册的调查设计，追踪公众对AI感知能力及相关态度的变化。
• 使用标准化调查问题测量意识感知、道德关切、威胁感知、政策偏好及未来预测。
• 避免提及具体AI名称或实例，以确保长期相关性并减少框架偏差。
• 引入反向问题以减轻社会期望偏差，尽管未在不同框架间系统性地交错使用。
• 聚焦普通公众的直觉性认知，采用抽象且易懂的语言，以确保广泛理解与时间上的稳定性。

Figure 1 . Proportions of responses to selected questions about the mind perception of sentient AI (rows) in the three survey waves (columns).

实验结果

研究问题

• RQ1 人们在多大程度上认为AI具有感知能力及其他心智能力？
• RQ2 人们在多大程度上对具有感知能力的AI感到道德关切（作为道德受体），或对AI感到威胁（作为负面道德主体）？
• RQ3 公众支持哪些政策来规范人类与具有感知能力的AI之间的互动？
• RQ4 人们预计具有感知能力的AI何时会出现？他们认为届时会发生什么？

主要发现

• 2023年，71%的受访者认为具有感知能力的AI应受到尊重，较2021年显著上升。
• 38%的受访者支持赋予具有感知能力的AI法律权利，表明公众对AI作为道德受体的规范性认可正在增强。
• 63%支持禁止强于人类的AI，69%支持禁止具有感知能力的AI，反映出公众普遍存在的担忧。
• 对具有感知能力的AI的中位预期出现时间为2023年后的五年内，而通用人工智能预计仅需两年。
• 尽管没有重大技术突破，2021年至2023年间，人们对AI的意识感知和道德关切显著上升。
• 公众意见表明，人们对AI具有心智的感知可能已开始重塑人类-AI互动的动态，无论AI是否真正具备感知能力。

Figure 2 . Support and opposition to policies related to sentient AI from the main and supplemental 2023 surveys. For readability, the color palette is colorblind-safe, and not all policy results are included. For the three bans queried in both the main and supplemental 2023 surveys (robot-human hyb