[论文解读] Humans' Assessment of Robots as Moral Regulators: Importance of Perceived Fairness and Legitimacy

Boyoung Kim, Elizabeth Phillips|arXiv (Cornell University)|Oct 10, 2021

Psychology of Moral and Emotional Judgment参考文献 13被引用 6

一句话总结

本文提出，若机器人被感知为公平且合法，便可作为有效的道德监管者；感知到的公平性——尤其是通过比例性惩罚——可提升其合法性和服从度。作者提出一个概念框架，使机器人能根据人类反馈动态调整惩罚决策，以确保在不同社会规范下保持公平性。

ABSTRACT

Previous research has shown that the fairness and the legitimacy of a moral decision-maker are important for people's acceptance of and compliance with the decision-maker. As technology rapidly advances, there have been increasing hopes and concerns about building artificially intelligent entities that are designed to intervene against norm violations. However, it is unclear how people would perceive artificial moral regulators that impose punishment on human wrongdoers. Grounded in theories of psychology and law, we predict that the perceived fairness of punishment imposed by a robot would increase the legitimacy of the robot functioning as a moral regulator, which would in turn, increase people's willingness to accept and comply with the robot's decisions. We close with a conceptual framework for building a robot moral regulator that successfully can regulate norm violations.

研究动机与目标

• 探究感知公平性与合法性如何影响人类对机器人施加制裁的服从意愿。
• 通过将机器人决策建立在报应正义与比例性原则基础上，解决人工智能在道德监管中的偏见问题。
• 开发一个概念框架，使机器人能够根据不同社会群体的规范严重程度动态调整惩罚强度。
• 考察第三方反馈在校准机器人道德监管者公平性与合法性中的作用。
• 弥合人工智能、心理学与法律在设计合乎伦理、人类可接受的自主道德监管者方面的差距。

提出的方法

• 提出一种基于反馈的框架，使机器人根据第三方对惩罚公平性的评估，动态更新其比例性估计系统。
• 应用报应正义理论中的比例性原则，使惩罚强度与规范违反的严重程度相匹配。
• 利用人类观察者（第三方）评估惩罚是否过强、过弱或恰到好处，相对于违规严重程度而言。
• 设计一种动态系统，随时间推移调整惩罚决策，以反映不断变化的群体规范与文化背景。
• 将合法性与公平性的心理学理论（如泰勒的程序正义理论）整合进机器人决策架构中。
• 将机器人道德监管者建模为通过重复、一致且比例恰当的干预行为，累积公平性证据的系统。

实验结果

研究问题

• RQ1 机器人施加的惩罚的感知公平性在多大程度上影响人类对机器人作为道德监管者合法性的认知？
• RQ2 惩罚的比例性与人类服从机器人决策的意愿之间存在何种关系？
• RQ3 机器人道德监管者如何在规范标准各异的不同社会群体中调整其惩罚决策？
• RQ4 第三方反馈在多大程度上提升了机器人道德监管的感知公平性与合法性？
• RQ5 在何种条件下（如违规严重程度），过度惩罚或惩罚不足会被人类观察者视为公平？

主要发现

• 对于严重规范违规行为，参与者认为过度惩罚比惩罚不足更公平，表明在危害较高时，更严厉的处罚更具正当性。
• 对于轻微违规行为，过度惩罚与惩罚不足在公平性感知上无显著差异，表明惩罚强度的微小偏差影响较小。
• 反复经历比例恰当的惩罚后，参与者对机器人作为公平且合法的道德监管者的感知显著提升。
• 惩罚的感知公平性在惩罚比例性与人类服从机器人决策的意愿之间起到中介作用。
• 包含第三方观察者的反馈回路有助于校准机器人的惩罚系统，减少对单一视角（如受害者或肇事者）的依赖。
• 该概念框架使惩罚能够动态适应群体特定规范，承认公平性具有情境依赖性且受文化影响。