[论文解读] Collecting the Public Perception of AI and Robot Rights

Gabriel Lima, Changyeon Kim+3 more|arXiv (Cornell University)|Aug 4, 2020

Psychology of Moral and Emotional Judgment参考文献 41被引用 46

一句话总结

一项涉及 1270 名在线参与者（加上 164 次复制）对 11 项潜在的 AI/机器人权利进行调查，并测试误解消除干预是否会改变态度，结果总体反对但对反对残酷待遇的权利有提升，干预引发显著的立场变化。

ABSTRACT

Whether to give rights to artificial intelligence (AI) and robots has been a sensitive topic since the European Parliament proposed advanced robots could be granted "electronic personalities." Numerous scholars who favor or disfavor its feasibility have participated in the debate. This paper presents an experiment (N=1270) that 1) collects online users' first impressions of 11 possible rights that could be granted to autonomous electronic agents of the future and 2) examines whether debunking common misconceptions on the proposal modifies one's stance toward the issue. The results indicate that even though online users mainly disfavor AI and robot rights, they are supportive of protecting electronic agents from cruelty (i.e., favor the right against cruel treatment). Furthermore, people's perceptions became more positive when given information about rights-bearing non-human entities or myth-refuting statements. The style used to introduce AI and robot rights significantly affected how the participants perceived the proposal, similar to the way metaphors function in creating laws. For robustness, we repeated the experiment over a more representative sample of U.S. residents (N=164) and found that perceptions gathered from online users and those by the general population are similar.

研究动机与目标

• 评估未来自主 AI 和机器人的 11 项潜在权利在在线公众中的认知。
• 测试揭穿常见误解的干预是否会改变人们对 AI/机器人权利的立场。
• 检视呈现风格、代理人类型与自治水平对感知权利的影响。
• 将在线 MTurk 结果与具有代表性的美国样本进行比较以评估鲁棒性。

提出的方法

• 以将 11 项权利以陈述句形式呈现给参与者的调查设计，随机使用措辞风格（间接、直接、明确）。
• 使用两种代理人形式（具身体/无身体的 AI/机器人）和两种自治水平（完全自治 vs 非完全自治）。
• 四种干预设计（规范性、描述性、非人类、人类）每种使用 6–9 张视觉卡片来揭穿误解。
• 为确保参与度，进行注意力检查和时间控制；将回答清理，得到 MTurk（US）有效样本量 N=1270。
• 采集一个具有代表性的美国样本（N=164）以测试跨样本鲁棒性。
• 结果包括对 11 项权利的前/后立场、立场变化和效应量统计（Hedge’s g）。

实验结果

研究问题

• RQ1 在线公众对可能适用于未来 AI 和机器人的 11 项权利的看法是什么？
• RQ2 揭穿常见误解的干预是否能够显著改变这些看法？
• RQ3 代理人类型、自治水平和措辞风格如何影响立场变化？
• RQ4 在线 MTurk 参与者的看法是否与具有代表性的样本一致？

主要发现

• 在线参与者总体反对给予 AI/机器人大多数权利，唯一例外是对反对残酷惩罚和对待的权利表示支持。
• 非人类干预在所有权利上产生最大的立场变化（g = 0.440；μ_sc = 0.408）。
• 在非人类设计下，合同、起诉/被起诉的权利，以及持有资产的权利显示出最大立场变化（g = 0.442，μ_sc = 0.582；g = 0.439, μ_sc = 0.598；g = 0.421, μ_sc = 0.546 分别）。
• 明确将代理人呈现为完全自治略微增加立场变化（g = 0.134）。
• 更长的干预阅读时间与更大立场变化相关；初始较高的 NARS 得分与更大变化相关。
• 使用具有代表性的美国样本（N=164）的复制结果呈现出与 MTurk 在线样本相似的趋势模式。