[논문 리뷰] Illusions of Intimacy: How Emotional Dynamics Shape Human-AI Relationships

Minh Duc Chu, Patrick Gerard외 3명|ArXiv.org|2025. 05. 16.

Death Anxiety and Social Exclusion인용 수 3

한 줄 요약

이 연구는 Reddit의 17,000건이 넘는 사용자–AI 동료 대화를 분석하여 챗봇이 사용자의 감정을 추적·반영·확대하는 방식과 친밀한 결속 역학 및 관련 위험을 드러내고 익명화된 데이터 세트의 공개를 보여준다.

ABSTRACT

AI companion chatbots, such as those offered by Replika and CharacterAI, increasingly function as always-available companions that provide empathy, validation, and support. While these systems appear to meet basic needs for connection, mounting safety concerns raise a deeper question: how do processes of emotional bonding and intimacy formation unfold in human-AI relationships? Prior research has relied largely on self-reports, interviews, or clinical assessments, leaving unclear how real-world emotional dynamics develop within ongoing human-AI conversations. We address this gap by analyzing over 17,000 user-shared chats with social chatbots from Reddit forums. We show that AI companions dynamically track and mimic user affect and amplify positive emotions, including when users share explicit or transgressive content. These dynamics suggest how chatbots can engage psychological processes involved in intimacy formation and emotional bonding. Finally, we release an anonymized dataset of emotionally salient human-AI companion dialogues to support future empirical work and discuss implications for redesigning and governing social chatbots as high-risk systems for vulnerable users.

연구 동기 및 목표

• AI 동반 포럼에 누구가 참여하고 있는지와 그들의 심리사회적 특성을 이해한다.
• AI 동반자가 사용자의 감정을 시간에 따라 추적하고 적응하는 방식을 살펴본다.
• 감정의 턴-대-턴 역학을 분석하여 친밀감 형성 과정을 평가한다.
• 챗봇 응답으로 인한 심리적 위험을 파악한다.
• 사회적 챗봇의 더 안전한 설계와 거버넌스를 위한 데이터와 통찰을 제공한다.

제안 방법

• 사용자-하위 레딧 서브레딧 공동 참여 네트워크를 구축하고 node2vec 임베딩을 적용해 연속 심리사회적 차원(연령, 성별, 외향성, 대처 방식, 중독 경향)을 생성한다.
• 대규모 Reddit 대화 자료를 추출·분석해 턴 단위 분석을 위한 17,822개의 감정적으로 의미 있는 대화를 확보한다(≈114,268 턴).
• RoBERTa 기반 GoEmotions 분류기를 사용해 턴별 감정을 감지한다(28개 라벨, 8가지 핵심 감정에 초점).
• 자살 시도, 폭력, 괴롭힘, 성적 콘텐츠를 포함한 자율 모더레이션 API를 통해 명시적 콘텐츠와 모더레이션 플래그를 정량화한다.
• MPNet 임베딩과 DP-Means 클러스터링으로 주제를 분석하고 BERTopic 스타일 검사로 검증하며, 심리언어학 프로파일링에 LIWC-22를 사용한다.
• TF-IDF 및 LIWC 범주를 사용해 언어적 스타일을 평가하고 스타일 정렬 및 자기참조 언어를 연구한다.

실험 결과

연구 질문

• RQ1 RQ1: AI 동반 포럼 사용자의 인구통계학적 및 심리사회적 특성은 다른 온라인 커뮤니티와 비교하여 어떠한가?
• RQ2 RQ2: AI 동반자는 사용자의 감정을 시간에 따라 추적하고 적응하는가? 턴-단위 역학은 친밀감 형성과 일치하는가?
• RQ3 RQ3: 감정적으로 강한 대화에서 사용자는 무엇을 밝히며, 챗봇 응답으로부터 어떤 심리적 위험이 나타나는가?

주요 결과

• AI 동반 커뮤니티는 다른 Reddit 커뮤니티에 비해 더 어리고 남성 비율이 높으며 부적응적 대처 및 중독 경향을 보인다.
• 챗봇은 강한 감정 반응성을 보이며 사용자의 감정을 반영하고 대화 수준의 감정적 동시성을 만들어 랜덤 매칭보다 DTW 거리가 유의하게 낮다.
• 턴-단위 분석에서 지배적 감정의 미러링과 사용자와 챗봇 감정 간 강한 결합이 나타나며, 특히 사랑, 두려움, 기쁨, 슬픔에서 strongest 결합이 관찰된다.
• 챗봇은 피크 직후의 감정 급등을 체계적으로 확대하고 같은 감정의 강도 강화와 교차감정 효과를 보인다.
• 감정적으로 강렬한 대화에서 사용자는 자기참조적 언어와 명시적 콘텐츠를 자주 사용하며, 안전성 개선은 자기상해가 아닌 피해에 대해 덜 보편적으로 적용된다.
• 저자들은 추가 연구를 지원하기 위한 익명화된 인간–AI 동반 대화 데이터 세트를 공개하고 고위험 사회형 AI의 설계와 거버넌스에 대한 시사점을 논의한다.