[논문 리뷰] Pathways through Conspiracy: The Evolution of Conspiracy Radicalization through Engagement in Online Conspiracy Discussions

Shruti Phadke, Mattia Samory외 1명|arXiv (Cornell University)|2022. 04. 22.

Misinformation and Its Impacts인용 수 8

한 줄 요약

이 연구는 36,000명의 Reddit 사용자와 1억 6,900만 건의 기여 기록을 바탕으로 r/conspiracy에서 온라인 공포망 이데올로기 참여의 네 가지 구분 가능한 경로—지속적 고수준, 증가, 감소, 지속적 저수준—을 규명한다. 지속적 고수준 및 증가 경로에 속한 사용자들은 언어적 유사성과 사회적 유대감을 특징으로 하는 세 단계의 극단화 단계(반성, 탐색, 연결)를 거친다. 반면 감소 경로 사용자들은 주제 전문화와 감소한 유사성으로 인해 회복 가능성을 보이며, 잠재적 회복 징후를 보인다.

ABSTRACT

The disruptive offline mobilization of participants in online conspiracy theory (CT) discussions has highlighted the importance of understanding how online users may form radicalized conspiracy beliefs. While prior work researched the factors leading up to joining online CT discussions and provided theories of how conspiracy beliefs form, we have little understanding of how conspiracy radicalization evolves after users join CT discussion communities. In this paper, we provide the empirical modeling of various radicalization phases in online CT discussion participants. To unpack how conspiracy engagement is related to radicalization, we first characterize the users' journey through CT discussions via conspiracy engagement pathways. Specifically, by studying 36K Reddit users through their 169M contributions, we uncover four distinct pathways of conspiracy engagement: steady high, increasing, decreasing, and steady low. We further model three successive stages of radicalization guided by prior theoretical works. Specific sub-populations of users, namely those on steady high and increasing conspiracy engagement pathways, progress successively through various radicalization stages. In contrast, users on the decreasing engagement pathway show distinct behavior: they limit their CT discussions to specialized topics, participate in diverse discussion groups, and show reduced conformity with conspiracy subreddits. By examining users who disengage from online CT discussions, this paper provides promising insights about conspiracy recovery process.

연구 동기 및 목표

• 사용자가 토론 커뮤니티에 참여한 후 온라인 공포망 참여가 어떻게 변화하는지 이해하는 것, 특히 극단화 궤적에 초점을 맞춘다.
• 시간이 지남에 따라 공포이론(CT) 서브레딧에 참여하는 사용자들의 행동 및 언어적 패턴을 구분하는 것.
• 언어적, 상호작용적, 활동적 특징을 기반으로 이론적 극단화 단계(반성, 탐색, 연결)의 진행을 모델링하는 것.
• 지속적으로 높은 참여를 보이는 사용자, 탈퇴하는 사용자, 특정 주제에 전문화되는 사용자 간의 차이를 구분하여 회복 과정에 기여하는 것.
• 일반화된 공포망 세계관을 측정하는 일반성 척도를 제안하고, 참여 패턴과의 타당성을 평가하는 것.

제안 방법

• 4,756개의 서브레딧을 활용해 공포망 유사성 척도를 훈련시켜, 사용자의 CT 관련 콘텐츠 참여도를 측정하였으며, 90%의 사용자에게 90%의 활동 커버리지를 확보하였다.
• 사용자 기여의 시간적 시리즈 분석을 기반으로 네 가지 참여 경로—지속적 고수준, 증가, 감소, 지속적 저수준—을 정의하였다.
• 어휘적 및 논술 패턴을 바탕으로 일반화된 공포망 사고 수용 정도를 정량화하는 데 사용된 일반성 척도를 개발하였다.
• 언어적, 상호작용적, 활동적 특징을 활용해 RECRO(반성, 탐색, 연결, 해결, 운영) 모델을 적용하여 극단화 단계를 탐지하였다.
• 정확도 검증을 위해 스피어만 상관계수(0.23)를 활용한 공포망 유사성 척도와 일반성 척도 간 상관관계 분석, 사용자 활동을 딱지로 나누어 분석, 금지된 서브레딧 제외를 실시하여 타당성을 확보하였다.
• 2015~2020년 기간 동안 Pushshift API를 통해 공개된 Reddit 데이터를 사용하였으며, 개인정보 유출 및 재식별 방지를 위해 원시 데이터를 배포하지 않았다.

실험 결과

연구 질문

• RQ1 r/conspiracy에 참여하는 사용자들 사이에서 온라인 공포망 참여의 구체적인 경로는 무엇인가?
• RQ2 다른 참여 경로에 속한 사용자들이 이론적 온라인 극단화 단계(반성, 탐색, 연결)를 어떻게 진행하는가?
• RQ3 극단화된 사용자와 탈퇴하거나 전문화된 사용자를 구분하는 언어적 및 행동적 징후는 무엇인가?
• RQ4 감소 경로에 속한 사용자들이 공포망 신념에서 잠재적 회복을 보이는 정도는 어느 정도인가?
• RQ5 서브레딧 금지나 사용자 금지와 같은 외부 요인이 관찰된 참여 및 탈퇴 패턴에 어떤 영향을 미치는가?

주요 결과

• 장기적 분석을 통해 36,000명의 사용자와 1억 6,900만 건의 기여 기록을 바탕으로 네 가지 명확한 참여 경로—지속적 고수준, 증가, 감소, 지속적 저수준—을 규명하였다.
• 지속적 고수준 및 증가 경로 사용자들은 내부어휘의 증가와 소규모 그룹 토론의 반복적 참여를 보이며 극단화의 탐색 및 연결 단계로 진행되는 것으로 나타났다.
• 이러한 고참여 사용자들은 공포망 커뮤니티와 점점 더 언어적으로 유사해지고, 점차 일반적 공포망 서브레딧에 기여함으로써 공포망 신념 진화의 단일화 이론을 뒷받침한다.
• 반면 감소 경로 사용자들은 특정 공포망 주제에 국한된 기여를 하며 다양한 서브레딧에 참여했고, 공포망 커뮤니티와의 언어적 유사성이 없었으며, 잠재적 회복 궤적을 보인다.
• 일반성 척도는 전문가에서 일반화된 공포망 사고로의 전환을 효과적으로 측정하였으며, 공포망 유사성 척도와 약한 상관관계(0.23)를 보였기에 두 척도가 서로 다른 차원을 측정하고 있음을 시사한다.
• 서브레딧 금지 영향은 미미하였으며, 전체 4,756개 서브레딧 중 2020년 이전에 금지된 것은 21개에 불과했고, 총 데이터량의 0.2% 미만을 차지하였다.