[论文解读] The AI Ghostwriter Effect: When Users Do Not Perceive Ownership of AI-Generated Text But Self-Declare as Authors

Fiona Draxler, Anna Werner+5 more|arXiv (Cornell University)|Mar 6, 2023

Artificial Intelligence in Healthcare and Education参考文献 107被引用 4

一句话总结

本文研究了人类与AI协作生成文本过程中的作者身份感知，揭示了“AI代笔人效应”——用户不会自我认定为AI生成文本的作者，即使文本经过个性化定制，也常常不承认AI的贡献，即使该文本是个人定制的。该效应不受个性化质量影响，且在通过开放式回答声明作者身份时更为显著，凸显了在AI辅助写作中，作者身份感知与公开署名之间存在显著脱节。

ABSTRACT

Human-AI interaction in text production increases complexity in authorship. In two empirical studies (n1 = 30 & n2 = 96), we investigate authorship and ownership in human-AI collaboration for personalized language generation. We show an AI Ghostwriter Effect: Users do not consider themselves the owners and authors of AI-generated text but refrain from publicly declaring AI authorship. Personalization of AI-generated texts did not impact the AI Ghostwriter Effect, and higher levels of participants' influence on texts increased their sense of ownership. Participants were more likely to attribute ownership to supposedly human ghostwriters than AI ghostwriters, resulting in a higher ownership-authorship discrepancy for human ghostwriters. Rationalizations for authorship in AI ghostwriters and human ghostwriters were similar. We discuss how our findings relate to psychological ownership and human-AI interaction to lay the foundations for adapting authorship frameworks and user interfaces in AI in text-generation tasks.

研究动机与目标

• 探究用户在使用大型语言模型与AI协作生成个性化文本时，对所有权和作者身份的感知。
• 考察AI生成内容的个性化程度是否影响用户对所有权和声明作者身份的感知。
• 比较用户在与AI协作与与人类代笔人协作时的作者身份声明行为差异。
• 探索影响感知所有权与公开作者署名之间差距的心理与交互设计因素。
• 为AI辅助文本生成的用户中心化作者身份框架与界面设计提供依据。

提出的方法

• 通过两项实证研究（n1 = 30，n2 = 96）开展，参与者使用微调后的大型语言模型生成个性化明信片。
• 通过改变交互方式（如基于提示的生成、编辑等）评估其对感知所有权和作者身份声明的影响。
• 在研究1中使用安慰剂个性化处理，以隔离感知个性化与实际模型微调的独立效应。
• 在研究2中使用更大样本量复现研究结果，并引入人类代笔人条件以进行对比。
• 通过结构化问卷和自由文本作者声明字段收集数据，研究2已预先注册（https://aspredicted.org/RKV_ZXX）。
• 分析作者身份声明的合理化理由，比较AI与人类代笔人条件下的推理模式差异。

(a) Writing

实验结果

研究问题

• RQ1 AI生成文本的个性化程度如何影响用户的感知所有权与声明作者身份？
• RQ2 交互方式（如提示输入、编辑）对用户所有权感知与作者身份归属有何影响？
• RQ3 与人类代笔人情境相比，AI代笔人效应在作者身份声明与所有权感知方面有何差异？
• RQ4 用户在使用AI或人类代笔人时，声称或不声称作者身份的合理化理由是什么？
• RQ5 对文本的感知控制程度在多大程度上影响人机协作中所有权与作者身份之间的差异？

主要发现

• AI代笔人效应具有强稳健性：参与者即使在个性化处理后，也未将自己视为AI生成文本的作者。
• 在研究1中，仅有20%的参与者在开放式回答字段中明确声明AI为作者，表明尽管AI参与，公开署名意愿仍极低。
• 在研究2中，当提供预设菜单时，70%的参与者声明AI为作者，表明界面设计显著影响作者身份披露。
• 当用户对文本拥有更大控制权时，其感知所有权更高，表明控制感增强所有权感知。
• 用户更倾向于将作者身份归于人类代笔人而非AI代笔人，表明AI辅助写作中所有权与作者身份之间的差距更为显著。
• 用户在AI与人类代笔人条件下的作者身份合理化理由相似，表明无论合作者身份如何，其心理正当化逻辑具有可比性。

(b) Editing