[논문 리뷰] Conspiracy in the Time of Corona: Automatic detection of Covid-19 Conspiracy Theories in Social Media and the News

Shadi Shahsavari, Pavan Holur외 2명|arXiv (Cornell University)|2020. 04. 28.

Misinformation and Its Impacts인용 수 33

한 줄 요약

논문은 Covid-19 음모론의 서사적 프레임워크를 자동으로 탐지하고 분석하기 위해 소셜 미디어(4Chan, Reddit)와 뉴스(GDELT)에서 행위자와 관계를 추출하고 연결하는 파이프라인을 제시한다. 이는 플랫폼 간 서사 정렬 및 시간이 지남에 따른 서사의 진화를 살펴본다.

ABSTRACT

Rumors and conspiracy theories thrive in environments of low confidence and low trust. Consequently, it is not surprising that ones related to the Covid-19 pandemic are proliferating given the lack of any authoritative scientific consensus on the virus, its spread and containment, or on the long term social and economic ramifications of the pandemic. Among the stories currently circulating are ones suggesting that the 5G network activates the virus, that the pandemic is a hoax perpetrated by a global cabal, that the virus is a bio-weapon released deliberately by the Chinese, or that Bill Gates is using it as cover to launch a global surveillance regime. While some may be quick to dismiss these stories as having little impact on real-world behavior, recent events including the destruction of property, racially fueled attacks against Asian Americans, and demonstrations espousing resistance to public health orders countermand such conclusions. Inspired by narrative theory, we crawl social media sites and news reports and, through the application of automated machine-learning methods, discover the underlying narrative frameworks supporting the generation of these stories. We show how the various narrative frameworks fueling rumors and conspiracy theories rely on the alignment of otherwise disparate domains of knowledge, and consider how they attach to the broader reporting on the pandemic. These alignments and attachments, which can be monitored in near real-time, may be useful for identifying areas in the news that are particularly vulnerable to reinterpretation by conspiracy theorists. Understanding the dynamics of storytelling on social media and the narrative frameworks that provide the generative basis for these stories may also be helpful for devising methods to disrupt their spread.

연구 동기 및 목표

• 기저 서사 프레임워크를 사용하여 Covid-19 음모론이 어떻게 생성되는지 이해한다.
• 소셜 미디어와 뉴스 소스에서 행위자와 관계를 자동으로 추출하는 파이프라인을 개발한다.
• 팬데믹 동안 소셜 미디어와 뉴스 간의 음모에 관한 도메인 간 정보 흐름을 정량화한다.

제안 방법

• 서사를 행위자를 노드로, 관계를 나타내는 라벨링된 간선을 가진 그래픽 네트워크로 서사를 모델링한다.
• 의존 구문 분석과 의미역 구별(SRL)을 사용해 문장에서 관계 쌍을 추출하고 명사구를 맥락 그룹(CG)으로 클러스터링한다.
• BERT 기반 임베딩을 사용해 구를 하위 노드로 클러스터링하여 서사 그래프 내의 미시 맥 context를 형성한다.
• 소셜 미디어 게시물을 5일 간격으로 집계하고 각 구간에 대해 동시출현 행위자 네트워크를 구축한다.
• TF-IDF 필터링과 동시출현 네트워크를 사용해 소셜 미디어에서 파생된 서사를 뉴스 보도와 비교하여 교차 말뭉치 역학을 연구한다.
• 시간에 걸친 커뮤니티를 커버리지, 동질성, 완전성, V-측정 지표로 평가한다.

실험 결과

연구 질문

• RQ1 소셜 미디어와 뉴스에서 Covid-19 음모론을 뒷받침하는 서사 프레임워크는 무엇인가?
• RQ2 행위자와 그 관계가 시간이 지남에 따라 소셜 미디어와 뉴스에서 어떻게 정렬되는가?
• RQ3 자동화된 파이프라인이 소셜 플랫폼에서 뉴스 매체로 이어지는 음모 서사의 흐름을 밝힐 수 있는가?

주요 결과

• 이 파이프라인은 음모 서사에서 다섯 가지 중심 현상을 식별한다. 기존 이론과의 통합, 5G 관련 이론의 등장, 반백신 서사와의 정렬 등을 포함한다.
• 일일 업데이트되는 서사 그래프가 이야기 간의 연결의 상하향과 변동을 드러내고 음모적 재해석에 취약한 뉴스 구간을 강조한다.
• 소셜 미디어 커뮤니티는 뉴스 보도에서 확인 가능한 존재감을 가지며 교차 말뭉치 정보 흐름 모니터링을 가능하게 한다.
• 이 접근법은 중국, 트럼프, 바이러스, 게이츠 등과 같은 주목할 만한 행위자가 서사 구조를 주도하는 52개의 소셜 미디어 기반 커뮤니티를 산출한다.
• 본 연구는 소셜 미디어 데이터의 노이즈에도 불구하고 서사 프레임워크를 시간에 걸쳐 추적하고 비교할 수 있음을 보여준다.