[論文レビュー] Blissful (A)Ignorance: People form overly positive impressions of others based on their written messages, despite wide-scale adoption of Generative AI

Jiaqi Zhu, András Molnár|ArXiv.org|Jan 26, 2025

Misinformation and Its Impacts被引用数 3

ひとこと要約

論文は、GenAIの使用が不確かである場合、書かれたメッセージから人々が他者に対して過度に好意的な印象を形成することを示しており、印象形成における「至福の無知」がAIの普及とともに現れることを明らかにする。AI生成の開示が明示的な場合、印象は悪化する。

ABSTRACT

As the use of Generative AI (GenAI) tools becomes more prevalent in interpersonal communication, understanding their impact on social perceptions is crucial. According to signaling theory, GenAI may undermine the credibility of social signals conveyed in writing, since it reduces the cost of writing and makes it hard to verify the authenticity of messages. Using a pre-registered large-scale online experiment (N = 647; Prolific), featuring scenarios in a range of communication contexts (personal vs. professional; close others vs. strangers), we explored how senders' use of GenAI influenced recipients' impressions of senders, both when GenAI use was known or uncertain. Consistent with past work, we found strong negative effects on social impressions when disclosing that a message was AI-generated, compared to when the same message was human-written. However, under the more realistic condition when potential GenAI use was not explicitly highlighted, recipients did not exhibit any skepticism towards senders, and these "uninformed" impressions were virtually indistinguishable from those of fully human-written messages. Even when we highlighted the potential (but uncertain) use of GenAI, recipients formed overly positive impressions. These results are especially striking given that 46% of our sample admitted having used such tools for writing messages, just within the past two weeks. Our findings put past work in a new light: While social judgments can be substantially affected when GenAI use is explicitly disclosed, this information may not be readily available in more realistic communication settings, making recipients blissfully ignorant about others' potential use of GenAI.

研究の動機と目的

• GenAIの書かれたメッセージにおける使用が、個人および職業的文脈で受信者の印象にどう影響するかを調査する。
• AI使用が分かっている場合／不確かである場合／強調されていない場合の印象の差を調べる。
• 参加者自身の過去のGenAIツール使用が印象形成を調整するかを評価する。

提案手法

• 事前登録済みの大規模オンライン実験（N = 647）をProlificで実施。
• 個人/職業、親密な他者/知らない人などのシナリオで、AI生成の文章の開示・非開示を操作。
• 既知のAI生成、使用が不確か、人的著述のメッセージの下での受信者の印象を比較。
• 潜在的なGenAI使用が強調された場合と強調されていない場合の印象を分析。

実験結果

リサーチクエスチョン

• RQ1 AI生成文章の明示的開示は、送信者に対する受信者の印象にどう影響するか。
• RQ2 AI使用が不確かまたは開示されていない場合、異なるコミュニケーション文脈で印象はどう変わるか。
• RQ3 不確かな開示条件下で、受信者はAI作成と人間作成のメッセージを区別できるか。

主な発見

• AI生成文章の明示的開示は、人間作成のメッセージと比較して好ましい印象を低下させる。
• 非開示またはAI使用が不明確な場合、受信者の印象は完全に人間作成のメッセージと統計的に同程度（懐疑心なし）となる。
• 潜在的なGenAI使用が強調されるが不確かである場合、印象は過度にポジティブになることがある。
• 過去2週間にGenAIツールを用いてメッセージを書いたと回答したサンプルは約半数（46%）。
• 開示の印象への影響は、個人と職業的文脈、および親密な他者と知らない人の間で一貫して持続する。