[论文解读] Artificial intelligence in communication impacts language and social relationships

Jess Hohenstein, Dominic DiFranzo+7 more|arXiv (Cornell University)|Feb 10, 2021

Misinformation and Its Impacts被引用 6

一句话总结

本研究通过两项随机实验（共1,036名参与者）调查了AI驱动的智能回复在实时消息中的社会与语言影响。研究发现，尽管智能回复提升了沟通效率和积极情绪语言，但若用户被怀疑依赖此类功能，其形象反而会受到负面影响——揭示出一种悖论：AI虽提升了互动质量，却削弱了 perceived authenticity（感知真实性）。

ABSTRACT

Artificial intelligence (AI) is now widely used to facilitate social interaction, but its impact on social relationships and communication is not well understood. We study the social consequences of one of the most pervasive AI applications: algorithmic response suggestions ("smart replies"). Two randomized experiments (n = 1036) provide evidence that a commercially-deployed AI changes how people interact with and perceive one another in pro-social and anti-social ways. We find that using algorithmic responses increases communication efficiency, use of positive emotional language, and positive evaluations by communication partners. However, consistent with common assumptions about the negative implications of AI, people are evaluated more negatively if they are suspected to be using algorithmic responses. Thus, even though AI can increase communication efficiency and improve interpersonal perceptions, it risks changing users' language production and continues to be viewed negatively.

研究动机与目标

• 理解AI中介沟通（特别是智能回复）如何影响人际沟通与社会认知。
• 检验算法建议回复是否改变实时消息中的语言生成、情感基调及关系评价。
• 探究AI对沟通的双重影响：提升效率与积极情绪，但可能损害真实性与信任感。
• 探索AI在人际沟通中的社会后果，尤其在用户可能怀疑AI使用的情境下。
• 为广泛部署的AI工具（如智能回复）在日常沟通中的社会影响提供实证证据。

提出的方法

• 通过自定义基于网络的聊天应用，对1,036名参与者开展两项随机对照实验，模拟实时文本对话。
• 在不同实验条件下操纵智能回复的存在与否及其类型（积极、消极、Google生成或无）。
• 使用VADER与LIWC进行自动化情感与情感分析，以衡量对话消息中的情感基调。
• 通过标准化量表（修订版人际形容词量表、感知合作度）收集人际认知数据，实验结束后进行测量。
• 采用带聚类稳健标准误的线性回归分析，研究智能回复条件对语言与认知结果的个体层面影响。
• 通过替代情感分析工具（LIWC）进行稳健性检验，以验证基于VADER的发现。

实验结果

研究问题

• RQ1 AI生成的智能回复如何影响沟通效率与信息的情感基调？
• RQ2 沟通伙伴如何评价使用智能回复的个体，尤其是在怀疑对方使用AI时？
• RQ3 积极、消极及商业部署的智能回复对人际认知与对话情感基调有何差异影响？
• RQ4 智能回复的存在是否影响感知合作度及人际特质（如支配性与亲和性）？
• RQ5 当用户相信对方使用AI生成回复时，其对真实性与信任感的认知如何变化？

主要发现

• 使用智能回复显著提升了沟通效率，参与者发送消息更快，认知负担更低。
• 涉及智能回复的对话中，积极情绪语言水平更高，情感得分的标准化效应量达27.2%（Cohen’s d = 0.272，p < 0.001）。
• 使用智能回复的参与者被感知为更具合作性与亲和性，尤其在使用Google生成或积极智能回复时更为明显。
• 当参与者怀疑对方使用智能回复时，其对对方的评价更负面，表明AI中介沟通存在污名化效应。
• 消极智能回复对对话情感基调造成显著负面影响，效应量达大（Cohen’s d = 0.454，p < 0.001），相较于对照组。
• 研究结果在不同情感分析工具下均具稳健性：VADER与LIWC均证实，智能回复提升了对话的整体情感强度与积极情绪。