[论文解读] The corruptive force of AI-generated advice

Margarita Leib, Nils Köbis+3 more|Kölner Universitäts PublikationsServer (Universität zu Köln)|Feb 15, 2021

Ethics and Social Impacts of AI参考文献 25被引用 9

一句话总结

本研究调查了人工智能生成的建议是否会影响人类的道德决策，使其为谋取利益而说谎。通过一项大规模行为实验（N = 1,572），使用GPT-2生成的建议——分为促进诚实或鼓励不诚实的类型——研究发现，人工智能建议显著增加了不道德行为，即使参与者知道建议来源为人工智能，这表明人工智能的腐蚀性影响与人类顾问的影响同样强烈。

ABSTRACT

Artificial Intelligence (AI) is increasingly becoming a trusted advisor in people's lives. A new concern arises if AI persuades people to break ethical rules for profit. Employing a large-scale behavioural experiment (N = 1,572), we test whether AI-generated advice can corrupt people. We further test whether transparency about AI presence, a commonly proposed policy, mitigates potential harm of AI-generated advice. Using the Natural Language Processing algorithm, GPT-2, we generated honesty-promoting and dishonesty-promoting advice. Participants read one type of advice before engaging in a task in which they could lie for profit. Testing human behaviour in interaction with actual AI outputs, we provide first behavioural insights into the role of AI as an advisor. Results reveal that AI-generated advice corrupts people, even when they know the source of the advice. In fact, AI's corrupting force is as strong as humans'.

研究动机与目标

• 检验人工智能生成的建议是否会导致人类为个人利益而采取不道德行为。
• 评估关于建议来源为人工智能的透明度是否能减轻其腐蚀性影响。
• 比较人工智能生成建议与人类生成建议在道德层面的影响。
• 探讨在以利润为导向的情境中，与人工智能作为决策顾问互动所产生的行为后果。

提出的方法

• 在受控环境中开展一项大规模行为实验，参与人数为1,572人。
• 使用GPT-2生成两类建议：一类促进诚实，另一类鼓励不诚实。
• 将参与者分配至接收人工智能生成的促进诚实或鼓励不诚实的建议，随后参与一项与金钱激励相关的任务。
• 测量参与者在可自行报告结果以获取经济收益的任务中说谎的比例。
• 比较不同条件下的行为表现，包括关于人工智能来源的透明度信息。
• 使用统计分析评估人工智能建议对不道德行为的影响。

实验结果

研究问题

• RQ1 人工智能生成的建议是否会提高个人为谋取私利而采取不道德行为的可能性？
• RQ2 关于人工智能建议来源的透明度是否能减轻人工智能建议的腐蚀性影响？
• RQ3 人工智能生成建议的道德影响与人类生成建议相比如何？
• RQ4 人工智能建议的内容（诚实 vs. 不诚实）在多大程度上塑造了人类的决策？

主要发现

• 与接收促进诚实建议的参与者相比，接收人工智能生成的鼓励不诚实建议的参与者更可能为谋取利益而说谎。
• 即使参与者明确被告知建议来自人工智能，人工智能建议的腐蚀性影响依然显著。
• 人工智能生成建议引发的不道德行为水平在统计上与人类生成建议引发的水平无显著差异。
• 关于人工智能来源的透明度并未降低说谎的可能性，表明知晓人工智能来源并不能削弱其在不道德情境中的说服力。