[论文解读] Corrupted by Algorithms? How AI-generated and Human-written Advice Shape (Dis)honesty

Margarita Leib, Nils Köbis+3 more|arXiv (Cornell University)|Jan 5, 2023

Experimental Behavioral Economics Studies被引用 12

一句话总结

这项研究研究 AI 生成的与人类撰写的建议如何影响不诚实与诚实行为，结果发现促进不诚实的建议会增加两种来源的不诚实行为，而关于建议来源的透明度没有影响。

ABSTRACT

Artificial Intelligence (AI) increasingly becomes an indispensable advisor. New ethical concerns arise if AI persuades people to behave dishonestly. In an experiment, we study how AI advice (generated by a Natural-Language-Processing algorithm) affects (dis)honesty, compare it to equivalent human advice, and test whether transparency about advice source matters. We find that dishonesty-promoting advice increases dishonesty, whereas honesty-promoting advice does not increase honesty. This is the case for both AI- and human advice. Algorithmic transparency, a commonly proposed policy to mitigate AI risks, does not affect behaviour. The findings mark the first steps towards managing AI advice responsibly.

研究动机与目标

• 促使人们理解 AI 作为建议代理的伦理与行为风险。
• 比较 AI 生成的建议与等效的人类建议在行为上的影响。
• 测试关于建议来源的透明度是否能缓解不诚实行为的倾向。

提出的方法

• 进行一项实验，让参与者接触 AI 生成的或人类撰写的建议。
• 操纵建议的类型以促进不诚实或诚实的行为。
• 加入关于建议来源的透明度条件并测量随后的行为。
• 比较 AI 与人类建议在效果上的差异，以识别来源特定的模式。

实验结果

研究问题

• RQ1 AI 生成的建议是否像人类撰写的促不诚实建议一样促进不诚实？
• RQ2 促进诚实的建议是否会增加诚实行为，与建议来源无关？
• RQ3 关于建议是否由 AI 生成或人类撰写的透明度是否影响行为？
• RQ4 来源（AI 与人类）对不诚实促使型与诚实促使型建议的反应是否存在差异效应？

主要发现

• 促进不诚实的建议会增加不诚实行为。
• 促进诚实的建议并不会增加诚实行为。
• 关于建议来源的透明度不会影响行为。
• 对 AI 生成的和人类撰写的建议都观察到这些效应。