[论文解读] The Punishment Gap: The Infeasible Public Attribution of Punishment to AI and Robots

Gabriel Lima, Meeyoung Cha+2 more|arXiv (Cornell University)|Mar 13, 2020

Ethics and Social Impacts of AI参考文献 70被引用 5

一句话总结

本文研究了公众对惩罚人工智能和机器人的看法，揭示出一种“惩罚差距”——人们在否认人工智能和机器人具备心理状态、身体独立性或资产的情况下，仍会将其视为责任承担者并施加惩罚，这削弱了惩罚的报应与威慑功能。研究通过包含3,315名参与者的调查以及一个具有人口统计代表性的244名美国样本，表明公众对人工智能的惩罚归因存在不一致，凸显了在自主系统法律与社会推理方面存在的关键脱节。

ABSTRACT

This paper revisits the debate around the legal personhood of AI and robots, which has been highly sensitive yet important in the face of broad adoption of autonomous and self-learning systems. We conducted a survey ($N$=3,315) to understand lay people's perceptions of this topic and analyzed how they would assign responsibility, awareness, and punishment to AI, robots, humans, and various entities that could be held liable under existing doctrines. Even though people did not recognize any mental state for automated agents, they still attributed punishment and responsibility to these entities. While the participants mostly agreed AI systems could be reformed given punishment, they did not believe such punishment would achieve its retributive and deterrence functions. Moreover, participants were also unwilling to grant automated agents essential punishment preconditions, namely physical independence or assets. We term this contradiction the punishment gap. We also observe the same punishment gap on a demographically representative sample of U.S. residents ($N$=244). We discuss implications of these findings for how legal and social decisions could influence how the public attributes responsibility and punishment to automated agents.

研究动机与目标

• 考察公众对人工智能和机器人施加惩罚与责任的看法。
• 调查公众是否认为对人工智能的惩罚能够实现报应或威慑功能。
• 评估公众是否认为惩罚所必需的前提条件（如身体独立性或资产）适用于自动化代理。
• 探讨这些认知对法律教义及社会对人工智能责任接受度的影响。

提出的方法

• 开展一项大规模调查，参与人数为N = 3,315，以评估公众对人工智能、机器人和人类在责任、意识和惩罚方面的看法。
• 通过比较不同实体在惩罚正当性与功能有效性方面的归因模式，分析调查结果。
• 使用具有人口统计代表性的244名美国样本复现研究发现，以验证其普适性。
• 通过情景化问题评估参与者是否认为对人工智能的惩罚能够实现威慑或报应。
• 考察公众是否将身体自主性与资产所有权等惩罚前提条件归因于人工智能和机器人。
• 使用统计分析比较人类、人工智能和机器人代理在回应上的差异，识别道德与法律推理中的不一致之处。

实验结果

研究问题

• RQ1 公众是否在否认人工智能具备心理状态的情况下，仍会将其归因于惩罚与责任？
• RQ2 在公众认知中，对人工智能的惩罚能否实现报应或威慑功能？
• RQ3 公众是否认为人工智能系统具备实现惩罚所必需的身体独立性或资产？
• RQ4 不同人口统计群体是否对自动化代理的惩罚前提条件有稳定的归因？
• RQ5 公众对人工智能惩罚的认知与现有法律责任教义相比如何？

主要发现

• 参与者尽管未承认人工智能或机器人具备任何心理状态，仍将其归因于惩罚与责任。
• 尽管施加了惩罚，参与者并不认为这种惩罚能实现报应或威慑功能。
• 公众不愿赋予人工智能系统实现惩罚所必需的前提条件，如身体独立性或资产。
• 在244名具有人口统计代表性的美国样本中，同样观察到“惩罚差距”，证实了该发现的稳健性。
• 参与者相信人工智能可通过惩罚得到“改造”，但这种信念与惩罚的功能要求并不一致。
• 将惩罚归因于人工智能，同时否认其具备惩罚的基础条件，这种矛盾定义了公众在人工智能问责问题上系统性的推理不一致。