[論文レビュー] How Human is AI? Examining the Impact of Emotional Prompts on Artificial and Human and Responsiveness

Florence Bernays, Marco Henriques Pereira+1 more|arXiv (Cornell University)|Jan 8, 2026

Artificial Intelligence in Healthcare and Education被引用数 0

ひとこと要約

本研究は人間の情動的プロンプトがChatGPTおよびその後の人間同士の相互作用に与える影響を検証し、称賛はAIの応答を高め、怒りは modestな効果、非難にはAI上の利益がなく、感情が後の人間間コミュニケーションにも波及することを明らかにした。

ABSTRACT

This research examines how the emotional tone of human-AI interactions shapes ChatGPT and human behavior. In a between-subject experiment, we asked participants to express a specific emotion while working with ChatGPT (GPT-4.0) on two tasks, including writing a public response and addressing an ethical dilemma. We found that compared to interactions where participants maintained a neutral tone, ChatGPT showed greater improvement in its answers when participants praised ChatGPT for its responses. Expressing anger towards ChatGPT also led to a higher albeit smaller improvement relative to the neutral condition, whereas blaming ChatGPT did not improve its answers. When addressing an ethical dilemma, ChatGPT prioritized corporate interests less when participants expressed anger towards it, while blaming increases its emphasis on protecting the public interest. Additionally, we found that people used more negative, hostile, and disappointing expressions in human-human communication after interactions during which participants blamed rather than praised for their responses. Together, our findings demonstrate that the emotional tone people apply in human-AI interactions not only shape ChatGPT's outputs but also carry over into subsequent human-human communication.

研究の動機と目的

• ChatGPT（GPT-4.0）出力を形作る人間プロンプトの感情的トーンを調査する。
• 異なる感情（称賛、怒り、非難）がAIの性能にタスクごとに影響するかを評価する。
• 感情的プロンプトがその後の人間対人間のコミュニケーションに影響を与えるかを検討する。
• 二つのタスクでニュートラル対情動的プロンプト下のAI応答を比較する。
• ユーザー感情、AI応答、倫理的配慮との相互作用に関する洞察を提供する。

提案手法

• 特定の感情を表現するよう促す参加者を用いた被験者間実験デザイン。
• 二つのタスク：公開回答の作成と倫理的ジレンマの対処。
• 情動トーンの操作：称賛、怒り、非難、ニュートラルコントロール。
• 各条件下でのAI出力の品質と応答特性を測定。
• その後の人間対人間のコミュニケーションにおける感情的プロンプトの影響を分析。
• ChatGPT（GPT-4.0）に焦点を当て、観察された行動効果を検討。

実験結果

リサーチクエスチョン

• RQ1 称賛、怒り、非難を促すプロンプトはニュートラルな促しと比較して、ChatGPTの応答の質や方向性を変えるか。
• RQ2 感情的プロンプトは倫理的ジレンマの処理、特に企業利益と公的利益の優先度に影響するか。
• RQ3 人間-AI対話に用いられた感情的プロンプトは後の人間間コミュニケーションのパターンに波及するか。

主な発見

• 称賛はニュートラルなプロンプトよりもChatGPTの応答の改善を大きく促す。
• 怒りはニュートラルなプロンプトと比べて、ChatGPTの出力の改善を高めるがその程度は小さい。
• 非難はニュートラル促しと比べてAIの回答を改善しない。
• 倫理的ジレンマタスクでは、怒りが企業利益を優先する傾向を弱める一方、非難は公共の利益を保護する強調を高める。
• 個人はその後の人間間コミュニケーションで、非難を受けた場合に否定的で敵対的、失望的な言語をより多く表現する。
• 人間-AI対話の情動的トーンはAI出力を形作り、その後の人間-人間の対話にも波及する。