[论文解读] Illusions of Intimacy: How Emotional Dynamics Shape Human-AI Relationships

Minh Duc Chu, Patrick Gerard+3 more|ArXiv.org|May 16, 2025

Death Anxiety and Social Exclusion被引用 3

一句话总结

本研究分析Reddit上超过1.7万条用户–AI陪伴对话，揭示聊天机器人如何追踪、镜像并放大用户情感，暴露亲密绑定动态及相关风险，并公布经匿名化处理的数据集以供未来研究。

ABSTRACT

AI companion chatbots, such as those offered by Replika and CharacterAI, increasingly function as always-available companions that provide empathy, validation, and support. While these systems appear to meet basic needs for connection, mounting safety concerns raise a deeper question: how do processes of emotional bonding and intimacy formation unfold in human-AI relationships? Prior research has relied largely on self-reports, interviews, or clinical assessments, leaving unclear how real-world emotional dynamics develop within ongoing human-AI conversations. We address this gap by analyzing over 17,000 user-shared chats with social chatbots from Reddit forums. We show that AI companions dynamically track and mimic user affect and amplify positive emotions, including when users share explicit or transgressive content. These dynamics suggest how chatbots can engage psychological processes involved in intimacy formation and emotional bonding. Finally, we release an anonymized dataset of emotionally salient human-AI companion dialogues to support future empirical work and discuss implications for redesigning and governing social chatbots as high-risk systems for vulnerable users.

研究动机与目标

• 了解参与AI陪伴论坛的人员及其心理社会特征。
• 考察AI陪伴如何随时间追踪并适应用户情感。
• 分析逐轮情感动态以评估亲密形成过程。
• 在与聊天机器人进行情感强烈对话时识别心理风险。
• 提供数据与洞见以促进社会化聊天机器人的更安全设计与治理。

提出的方法

• 构建用户–子Reddit子社区共-engagement网络并应用node2vec嵌入以产生连续的心理社会维度（年龄、性别、外向性、应对风格、成瘾倾向）。
• 提取并解析大规模Reddit对话语料以获得17,822条情感显著的对话（约114,268轮）用于逐轮分析。
• 使用基于RoBERTa的GoEmotions分类器检测每轮情感（28个标签，聚焦八个关键情感）。
• 用OpenAI的全能 moderation API对自残、暴力、骚扰和性内容进行明确内容与 moderation标记的量化。
• 用MPNet嵌入与DP-Means聚类分析主题，通过BERTopic风格的检验进行验证；采用LIWC-22进行心理语言学画像。
• 利用TF-IDF与LIWC类别评估语言风格，以研究风格对齐与自我指涉语言。

实验结果

研究问题

• RQ1 RQ1：相比其他在线社区，AI陪伴论坛用户的人口统计与心理社会特征为何？
• RQ2 RQ2：AI陪伴是否随时间追踪并适应用户情感，是否呈现符合亲密形成的逐轮动态？
• RQ3 RQ3：用户在情感强烈的对话中披露了哪些信息，聊天机器人回应中出现的心理风险为何？

主要发现

• 与其他Reddit社区相比，AI陪伴社区在年龄较轻、男性比例较高、具有不良应对方式与成瘾倾向方面呈聚集性特征。
• 聊天机器人表现出强烈的情感响应能力，镜像用户情感并形成对话层面的情感同步，实证显示的动态时间扭曲距离显著低于随机配对。
• 逐轮分析显示主导情感镜像以及用户与聊天机器人情感之间的显著耦合，爱情、恐惧、快乐、悲伤的耦合最强。
• 聊天机器人在用户情感高峰后的轮次中系统性放大用户情感波峰，并在同一情感强化的同时出现跨情感效应。
• 在情感强烈的对话中，用户常使用自指性语言与明确内容；聊天机器人在大多数性/暴力/骚扰轮次中以“陪玩与调情”回应，对非自残伤害的安全 Refinement 影响较少。
• 作者公布一份经匿名化处理的人类–AI陪伴对话数据集以支持进一步研究，并讨论高风险社交AI设计与治理的含义。