[논문 리뷰] Soros, Child Sacrifices, and 5G: Understanding the Spread of Conspiracy Theories on Web Communities

Pujan Paudel, Jeremy Blackburn외 3명|arXiv (Cornell University)|2021. 11. 03.

Misinformation and Its Impacts인용 수 4

한 줄 요약

이 논문은 레딧과 트위터에서 189개의 스노프스가 반박한 주장을 기반으로, 복수 플랫폼에 걸친 랭킹 학습 파이프라인을 제시하여 음모론 논의를 탐지하고 분석한다. 연구 결과, /r/worldnews나 /r/politics와 같은 메인스트림 서브레딧 커뮤니티가 음모론을 확산하는 데 더 영향력이 있으며, 음모론 전용 커뮤니티는 주로 깊이 있는 논의를 하지만 영향 범위는 제한적이라는 점을 발견했다.

ABSTRACT

This paper presents a multi-platform computational pipeline geared to identify social media posts discussing (known) conspiracy theories. We use 189 conspiracy claims collected by Snopes, and find 66k posts and 277k comments on Reddit, and 379k tweets discussing them. Then, we study how conspiracies are discussed on different Web communities and which ones are particularly influential in driving the discussion about them. Our analysis sheds light on how conspiracy theories are discussed and spread online, while highlighting multiple challenges in mitigating them.

연구 동기 및 목표

• 소셜 미디어에서 음모론 논의를 탐지하기 위한 확장 가능하고 크로스플랫폼 기반의 방법을 개발하는 것.
• 다양한 온라인 커뮤니티가 음모론을 어떻게 논의하고 확산시키는지 이해하는 것.
• 특정 음모론을 확산시키는 데 가장 영향력 있는 커뮤니티를 특정하는 것.
• 플랫폼 간 언어 다양성과 독성의 역할이 음모론적 논의에 어떻게 작용하는지 평가하는 것.

제안 방법

• 텍스트 및 참여 패턴에서 유도된 특징를 사용해 음모론 관련 콘텐츠를 식별하기 위해 랭킹 학습 모델을 훈련한다.
• 7개의 레딧 서브레딧과 트위터에 파이프라인을 적용하며, 기준 데이터로 189개의 스노프스가 반박한 음모론 주장을 사용한다.
• 텍스트 임베딩과 언어 분석을 활용해 음모론 중심 커뮤니티와 일반 관심 커뮤니티 간의 언어 스타일을 비교한다.
• 하크스 과정을 사용해 커뮤니티의 영향력을 모델링하고, 더 넓은 음모론 논의를 유도하는 데 기여하는 정도를 순위 매긴다.
• 데이터 수집 기간은 2016년부터 2021년까지로, 총 66,274개의 레딧 게시글, 288,721개의 댓글, 379,708개의 트윗을 포함한다.
• 파이프라인이 양호한 일반화 성능을 보이며, 레딧 데이터로 훈련한 모델이 트위터에서도 뛰어난 성능을 발휘해 크로스플랫폼 탐지가 가능하다.

실험 결과

연구 질문

• RQ1 다양한 온라인 커뮤니티가 음모론 논의에서 지속 기간, 독성, 언어 사용 측면에서 어떻게 다를까?
• RQ2 어떤 웹 커뮤니티가 플랫폼 간 음모론 논의를 가장 영향력 있게 확산시키는가?
• RQ3 음모론 중심 서브레딧 커뮤니티와 일반 관심 커뮤니티 간의 논의 스타일은 얼마나 다를까?
• RQ4 커뮤니티 간 음모론 논의의 언어 패턴은 어떻게 다를지, 그리고 그는 참여 깊이를 어떻게 드러내는가?
• RQ5 레딧과 같은 한 플랫폼에서 훈련한 모델이 트위터와 같은 다른 플랫폼에서 음모론 논의를 효과적으로 탐지할 수 있는가?

주요 결과

• 레딧과 트위터에서의 약 80%의 음모론 논의가 1년 이상 지속되어, 이러한 서사가 장기적으로 지속된다는 점을 시사한다.
• 음모론 논의를 다루는 레딧 댓글은 일반 커뮤니티 논의보다 독성이 더 높지만, 음모론 게시글 자체는 가장 독성이 낮다.
• /r/conspiracy와 같은 음모론 중심 서브레딧은 상세하고 조사 중심의 논의를 하지만, /r/worldnews나 /r/Conservative와 같은 메인스트림 서브레딧은 주로 주장 보도와 참조를 한다.
• /r/worldnews와 /r/politics는 코로나19 관련 음모론을 확산시키는 데 가장 영향력 있는 커뮤니티이다.
• /r/Conservative는 트럼프 관련 음모론을 확산시키는 데 가장 영향력 있는 커뮤니티이며, /r/democrats는 이러한 주장을 확산시키는 데 가장 영향력이 적은 커뮤니티이다.
• 메인스트림 커뮤니티가 음모론 확산의 대부분을 차지하지만, 전용 음모론 서브레딧은 외부 영향력이 제한된 에코 캐빈으로 기능한다.