[논문 리뷰] How Human is AI? Examining the Impact of Emotional Prompts on Artificial and Human and Responsiveness

Florence Bernays, Marco Henriques Pereira외 1명|arXiv (Cornell University)|2026. 01. 08.

Artificial Intelligence in Healthcare and Education인용 수 0

한 줄 요약

본 연구는 인간의 감정 프롬프트가 ChatGPT와 이후의 인간 간 상호작용에 어떤 영향을 미치는지 실험했고, 칭찬은 AI 반응을 높이고, 분노는 다소 도움이 되며, 비난은 AI에 이익을 주지 못하고, 감정이 이후의 인간 간 의사소통으로도 확산된다는 것을 발견했다.

ABSTRACT

This research examines how the emotional tone of human-AI interactions shapes ChatGPT and human behavior. In a between-subject experiment, we asked participants to express a specific emotion while working with ChatGPT (GPT-4.0) on two tasks, including writing a public response and addressing an ethical dilemma. We found that compared to interactions where participants maintained a neutral tone, ChatGPT showed greater improvement in its answers when participants praised ChatGPT for its responses. Expressing anger towards ChatGPT also led to a higher albeit smaller improvement relative to the neutral condition, whereas blaming ChatGPT did not improve its answers. When addressing an ethical dilemma, ChatGPT prioritized corporate interests less when participants expressed anger towards it, while blaming increases its emphasis on protecting the public interest. Additionally, we found that people used more negative, hostile, and disappointing expressions in human-human communication after interactions during which participants blamed rather than praised for their responses. Together, our findings demonstrate that the emotional tone people apply in human-AI interactions not only shape ChatGPT's outputs but also carry over into subsequent human-human communication.

연구 동기 및 목표

• 인간 프롬프트의 감정적 어조가 ChatGPT(GPT-4.0)의 출력에 어떤 영향을 미치는지 조사한다.
• 다른 감정(칭찬, 분노, 비난)이 작업 전반에서 AI 성능에 영향을 미치는지 평가한다.
• 감정 프롬프트가 이후의 인간 간 의사소통에 영향을 미치는지 살펴본다.
• 두 가지 과제에서 중립 프롬프트와 감정 프롬프트 시 AI 반응성을 비교한다.
• 사용자 감정, AI 반응, 그리고 윤리적 고려 사이의 상호작용에 대한 통찰을 제공한다.

제안 방법

• 특정 감정을 표현하도록 참가자를 유도하는 피험자 간 실험 설계.
• 두 가지 과제: 공개 응답 작성 및 윤리적 딜레마 다루기.
• 감정 어조의 조작: 칭찬, 분노, 비난, 그리고 중립 대조.
• 각 조건에서 AI 출력 품질 및 응답 특징을 측정.
• 이후 상호작용에서 감정 프롬프트가 인간-인간 의사소통에 미치는 변화를 분석.
• ChatGPT(GPT-4.0)에 초점을 맞추고 관찰된 행동 효과를 다룬다.

실험 결과

연구 질문

• RQ1 프롬프트에서 칭찬, 분노 또는 비난을 표현하는 것이 중립 프롬프트와 비교하여 ChatGPT의 응답 품질이나 방향을 변화시키는가?
• RQ2 감정 프롬프트가 ChatGPT가 윤리적 딜레마를 다루는 방식에 영향을 미치며, 특히 기업 이익과 공익 간의 우선순위를 어떻게 바꾸는가?
• RQ3 인간-AI 상호작용에서 사용된 감정 프롬프트가 이후의 인간-인간 의사소통 패턴에 확산되어 영향을 주는가?

주요 결과

• 칭찬은 중립 프롬프트보다 ChatGPT 응답의 개선을 더 크게 이끈다.
• 분노는 중립 프롬프트에 비해 더 큰 개선을 보이나 그 효과 크기는 작다.
• ChatGPT를 비난하는 것은 중립 프롬프트 대비 답변을 개선하지 못한다.
• 윤리적 딜레마 과제에서 분노는 기업 이익의 우선순위를 덜 하도록 만들고, 비난은 공익 보호에 더 큰 중점을 두게 한다.
• 비난 후에는 이후의 인간-인간 의사소통에서 더 부정적이고 적대적이며 실망스러운 표현을 더 많이 나타낸다.
• 인간-AI 상호작용의 감정 어조가 AI 출력에 영향을 주고 이후 인간-간 상호작용으로도 이어진다.