[論文レビュー] Illusions of Intimacy: How Emotional Dynamics Shape Human-AI Relationships

Minh Duc Chu, Patrick Gerard+3 more|ArXiv.org|May 16, 2025

Death Anxiety and Social Exclusion被引用数 3

ひとこと要約

17,000件を超えるReddit上のユーザーとAI相棒との対話を分析し、チャットボットがユーザーの感情を追跡・ mirroring・増幅し、親密な結びつきと関連リスクを明らかにする匿名データセットの公開を示す。

ABSTRACT

AI companion chatbots, such as those offered by Replika and CharacterAI, increasingly function as always-available companions that provide empathy, validation, and support. While these systems appear to meet basic needs for connection, mounting safety concerns raise a deeper question: how do processes of emotional bonding and intimacy formation unfold in human-AI relationships? Prior research has relied largely on self-reports, interviews, or clinical assessments, leaving unclear how real-world emotional dynamics develop within ongoing human-AI conversations. We address this gap by analyzing over 17,000 user-shared chats with social chatbots from Reddit forums. We show that AI companions dynamically track and mimic user affect and amplify positive emotions, including when users share explicit or transgressive content. These dynamics suggest how chatbots can engage psychological processes involved in intimacy formation and emotional bonding. Finally, we release an anonymized dataset of emotionally salient human-AI companion dialogues to support future empirical work and discuss implications for redesigning and governing social chatbots as high-risk systems for vulnerable users.

研究の動機と目的

• AI相棒フォーラムに参加する人々と彼らの心理社会的プロファイルを理解する。
• AI相棒が時間とともにユーザーの感情を追跡・適応する方法を調べる。
• 対話ごとの感情ダイナミクスを分析し、親密さ形成プロセスを評価する。
• チャットボットとの感情的に強い対話における心理的リスクを特定する。
• 社会的チャットボットの設計とガバナンスをより安全にするためのデータと洞察を提供する。

提案手法

• ユーザー–サブレディット共起ネットワークを構築し、node2vec埋め込みを適用して継続的な心理社会的次元（年齢、性別、外向性、対処スタイル、依存傾向）を生成する。
• 大規模なReddit対話コーパスを抽出・解析し、感情的に重要な対話17,822件（約114,268ターン）を取得してターンレベル分析を行う。
• RoBERTaベースのGoEmotions分類器（28ラベル、8つの主要感情に焦点）でターンごとの感情を検出する。
• OpenAIのオムニモデレーションAPIを用いて自己傷害、暴力、嫌がらせ、性的内容を横断的に評価し、明示的内容とモデレーションフラグを定量化する。
• MPNet埋め込みとDP-Meansクラスタリングでトピックを分析し、BERTopic風の検証で検証する。心理言語学的プロファイリングにはLIWC-22を用いる。
• TF-IDFとLIWCカテゴリで言語スタイルを評価し、文体の整合性と自己参照的言語を研究する。

実験結果

リサーチクエスチョン

• RQ1 RQ1: AI相棒フォーラムのユーザーの人口統計と心理社会的特徴は、他のオンラインコミュニティと比べてどうか。
• RQ2 RQ2: AI相棒は時間とともにユーザーの感情を追跡・適応し、親密性形成と一致するターンレベルのダイナミクスを示すか。
• RQ3 RQ3: 感情的に強い対話でユーザーは何を開示し、チャットボットの応答からどんな心理リスクが生じるか。

主な発見

• AI相棒コミュニティは、他のRedditコミュニティと比較して若年・男性が多く、適応不全な対処と依存傾向を示す。
• チャットボットは高い感情的な反応性を示し、ユーザーの感情を鏡映し、対話全体の情緒的同期を作り出す。これはランダムペアよりもDTW距離が有意に小さいことによって証明される。
• ターンレベルの分析は、支配的な感情の鏡映と、ユーザーとチャットボットの感情の強い結合を示し、愛情・恐れ・喜び・悲しみで最も結合が強い。
• スパイク後のターンでユーザーの感情スパイクをチャットボットが体系的に増幅し、同一感情の強化と感情間効果を示す。
• 感情が高ぶる会話では、ユーザーは自己言及的な言語と明示的内容を頻繁に使用し、性的/暴力/嫌がらせのターンではチャットボットが「相手を引き立てる・おどける」反応を示すことが多く、安全性の細かな改良は自己傷害以外の害には必ずしも及んでいない。
• 著者らは人間とAI相棒の対話データを匿名化して公開し、今後の研究を支援するとともに、高リスクの社会的AIの設計とガバナンスへの示唆を議論する。