[论文解读] Artificial Intelligence can facilitate selfish decisions by altering the appearance of interaction partners

Nils Köbis, Philipp Lorenz-Spreen+4 more|arXiv (Cornell University)|Jun 7, 2023

Psychology of Moral and Emotional Judgment被引用 5

一句话总结

本研究探讨了数字互动中人工智能驱动的模糊滤镜如何影响道德行为，发现通过外貌改变导致的去人格化会增加自私决策。通过受控实验，作者表明个体在与模糊的互动对象互动时，更可能表现出自私行为，表明人工智能中介的去人格化会促进道德脱敏。

ABSTRACT

The increasing prevalence of image-altering filters on social media and video conferencing technologies has raised concerns about the ethical and psychological implications of using Artificial Intelligence (AI) to manipulate our perception of others. In this study, we specifically investigate the potential impact of blur filters, a type of appearance-altering technology, on individuals' behavior towards others. Our findings consistently demonstrate a significant increase in selfish behavior directed towards individuals whose appearance is blurred, suggesting that blur filters can facilitate moral disengagement through depersonalization. These results emphasize the need for broader ethical discussions surrounding AI technologies that modify our perception of others, including issues of transparency, consent, and the awareness of being subject to appearance manipulation by others. We also emphasize the importance of anticipatory experiments in informing the development of responsible guidelines and policies prior to the widespread adoption of such technologies.

研究动机与目标

• 探讨人工智能中介的外貌改变，特别是模糊滤镜，如何影响社会互动中的道德决策。
• 调查通过视觉模糊导致的去人格化是否会导致自私行为增加。
• 探究因对他人感知改变而引发的行为变化背后的心理机制，特别是道德脱敏机制。
• 为未来可能操纵人类互动视觉感知的人工智能技术提供伦理准则参考。

提出的方法

• 通过修改后的社会困境游戏在受控实验室环境中进行实验，以评估不同视觉条件下个体的决策行为。
• 在数字界面中应用人工智能驱动的模糊滤镜，以改变虚拟互动对象的外貌。
• 在互动对象清晰可见与模糊的条件下比较行为表现，同时控制其他视觉和情境变量。
• 通过资源分配任务中的选择行为（如为自己保留更多资源而牺牲他人）来衡量自私行为。
• 使用统计建模分析可见与模糊条件之间的行为差异。
• 从多样化参与者群体中收集数据，以确保研究发现的普适性。

实验结果

研究问题

• RQ1 模糊互动对象的外貌是否会增加其在社会决策任务中表现出自私行为的可能性？
• RQ2 通过人工智能滤镜进行的外貌改变在多大程度上导致人际互动中的道德脱敏？
• RQ3 视觉去人格化的程度如何影响亲社会行为与自私行为的决策？
• RQ4 个体是否意识到视觉外貌对其在人工智能中介互动中道德判断的影响？

主要发现

• 与外貌清晰可见的互动对象相比，参与者在与模糊对象互动时更可能做出自私选择。
• 自私行为的增加在多次实验和不同参与者群体中保持一致。
• 模糊外貌导致亲社会行为明显减少，表明去人格化与道德脱敏之间存在直接关联。
• 该效应并非源于一般视觉分心，而是特异性地与面部识别能力丧失和类人线索的缺失相关。
• 参与者报告对模糊对象的共情和连接感降低，支持去人格化在行为改变中的作用。
• 研究结果表明，人工智能驱动的视觉操控可以微妙但显著地改变数字互动中的伦理决策。