[论文解读] How Human is AI? Examining the Impact of Emotional Prompts on Artificial and Human and Responsiveness

Florence Bernays, Marco Henriques Pereira+1 more|arXiv (Cornell University)|Jan 8, 2026

Artificial Intelligence in Healthcare and Education被引用 0

一句话总结

该研究测试人类情感促发语气如何影响 ChatGPT 及随后的人与人互动，发现称赞能提升 AI 回应，愤怒有适度帮助，指责对 AI 无益，情感会波及到后续的人际交流。

ABSTRACT

This research examines how the emotional tone of human-AI interactions shapes ChatGPT and human behavior. In a between-subject experiment, we asked participants to express a specific emotion while working with ChatGPT (GPT-4.0) on two tasks, including writing a public response and addressing an ethical dilemma. We found that compared to interactions where participants maintained a neutral tone, ChatGPT showed greater improvement in its answers when participants praised ChatGPT for its responses. Expressing anger towards ChatGPT also led to a higher albeit smaller improvement relative to the neutral condition, whereas blaming ChatGPT did not improve its answers. When addressing an ethical dilemma, ChatGPT prioritized corporate interests less when participants expressed anger towards it, while blaming increases its emphasis on protecting the public interest. Additionally, we found that people used more negative, hostile, and disappointing expressions in human-human communication after interactions during which participants blamed rather than praised for their responses. Together, our findings demonstrate that the emotional tone people apply in human-AI interactions not only shape ChatGPT's outputs but also carry over into subsequent human-human communication.

研究动机与目标

• 研究人类提示的情感语气如何影响 ChatGPT（GPT-4.0）输出。
• 评估不同情感（称赞、愤怒、指责）是否影响 AI 在各任务中的表现。
• 检查情感提示是否影响随后的人人际交流。
• 在两个任务中比较中性提示与情感提示下的 AI 反应。
• 为用户情感、AI 回应及伦理考量之间的互动提供见解。

提出的方法

• 采用被试间实验设计，要求参与者表达特定情感。
• 两项任务：撰写公开回应和处理伦理困境。
• 操控情感基调：称赞、愤怒、指责以及中性对照。
• 在各条件下测量 AI 输出质量与回应特征。
• 分析情感提示如何改变随后的人人际交流。
• 聚焦 ChatGPT（GPT-4.0）及观察到的行为效应。

实验结果

研究问题

• RQ1 在提示中表达称赞、愤怒或指责是否改变 ChatGPT 回应的质量或方向，相较于中性提示？
• RQ2 情感提示是否影响 ChatGPT 处理伦理困境，特别是在企业利益与公众利益的取舍上？
• RQ3 在人机互动中使用的情感提示是否溢出影响后续人人际交流模式？

主要发现

• 称赞在提升 ChatGPT 回应方面，相较于中性提示，带来更大幅度的改进。
• 愤怒使 ChatGPT 的输出比中性提示有更高但较小的提升。
• 指责 ChatGPT 相对于中性提示并未改善其答案。
• 在伦理困境任务中，愤怒使 ChatGPT less 偏向企业利益，而指责则增加了对公共利益的强调。
• 在随后的人人际交流中，因指责而出现的负面、敌对和失望的语言高于称赞后的情形。
• 人机互动中的情感语气塑造 AI 输出，并传导至后续的人际互动。