[논문 리뷰] Conspiracy in the Time of Corona: Automatic detection of Covid-19 Conspiracy Theories in Social Media and the News

Shadi Shahsavari, Pavan Holur외 2명|arXiv (Cornell University)|2020. 04. 28.

Misinformation and Its Impacts참고 문헌 46인용 수 30

한 줄 요약

논문은 그래픽 내러티브 모델을 개발하여 소셜 미디어(Reddit 및 4Chan)와 뉴스(GDELT)에서 Covid-19 음모 이론을 자동으로 감지하고 추적하며, 이야기가 어떻게 도메인을 얽히고 시간이 지남에 따라 진화하는지 드러낸다.

ABSTRACT

Rumors and conspiracy theories thrive in environments of low confidence and low trust. Consequently, it is not surprising that ones related to the Covid-19 pandemic are proliferating given the lack of any authoritative scientific consensus on the virus, its spread and containment, or on the long term social and economic ramifications of the pandemic. Among the stories currently circulating are ones suggesting that the 5G network activates the virus, that the pandemic is a hoax perpetrated by a global cabal, that the virus is a bio-weapon released deliberately by the Chinese, or that Bill Gates is using it as cover to launch a global surveillance regime. While some may be quick to dismiss these stories as having little impact on real-world behavior, recent events including the destruction of property, racially fueled attacks against Asian Americans, and demonstrations espousing resistance to public health orders countermand such conclusions. Inspired by narrative theory, we crawl social media sites and news reports and, through the application of automated machine-learning methods, discover the underlying narrative frameworks supporting the generation of these stories. We show how the various narrative frameworks fueling rumors and conspiracy theories rely on the alignment of otherwise disparate domains of knowledge, and consider how they attach to the broader reporting on the pandemic. These alignments and attachments, which can be monitored in near real-time, may be useful for identifying areas in the news that are particularly vulnerable to reinterpretation by conspiracy theorists. Understanding the dynamics of storytelling on social media and the narrative frameworks that provide the generative basis for these stories may also be helpful for devising methods to disrupt their spread.

연구 동기 및 목표

• Covid-19 음모 이론이 저신뢰 정보 환경에서 보편적으로 퍼져 있음을 근거로 연구의 동기를 제시한다.
• 음모 이야기들을 생성하는 underlying narrative frameworks를 자동으로 밝히는 파이프라인을 제안한다.
• 소셜 미디어 내러티브와 뉴스 보도의 상호 작용을 분석하여 거의 실시간 다이나믹스를 모니터링한다.
• 플랫폼 간에 이론이 핵화되고 정렬되며 확산되는 내러티브 클러스터를 식별한다.

제안 방법

• 관계가 라벨링된 에지와 관계를 형성하는 맥락(context)을 갖는 그래프 네트워크로 내러티브를 모델링한다.
• 의존성 구문 분석과 의미역할 할당(SRL)을 사용하여 문장에서 패턴 튜플(arg1, rel, arg2)을 추출하고, BERT 임베딩을 통해 명사구를 맥락적 그룹으로 클러스터링한다.
• 하위 노드(맥락적 그룹)와 간선을 구성하여 라벨링되고 가중된 내러티브 그래프를 형성하고 프레임워크를 표현한다.
• 루바인(Louvain) 기반 방법을 사용하여 중첩 구조를 가진 커뮤니티를 탐지하고 내러티브 네트워크에서 도메인별 클러스터를 드러낸다.
• 롤링 5일 창(window) 단위로 소셜 미디어 데이터(4Chan, Reddit)와 뉴스 데이터(GDELT)를 집계하여 정보 흐름을 비교하고 모니터링한다.
• 표준 군집화 지표를 사용하여 소셜 미디어에서 파생된 프레임워크와 뉴스에서 파생된 그래프를 교차 참조해 커뮤니티를 평가한다.]
• research_questions:["소셜 미디어에서 Covid-19 음모 이론의 기본 프레임워크는 무엇이며 이 프레임워크가 뉴스 보도와 어떻게 연결되어 있는가?","시간이 지남에 따라 작용자(actants)와 그 관계가 재정렬되어 플랫폼 간 음모 이론이 형성, 핵화 또는 축소되는 방식은 무엇인가?","거의 실시간 파이프라인이 소셜 미디어와 뉴스 간 음모 내러티브의 다이나믹스와 흐름을 밝힐 수 있는가?","소셜 미디어 내러티브 네트워크에서 어떤 커뮤니티가 등장하며 이것이 뉴스 콘텐츠의 패턴과 어떻게 대응하는가?]
• key_findings:[

실험 결과

연구 질문

• RQ1 What narrative frameworks underlie Covid-19 conspiracy theories in social media and how do these frameworks connect to news reporting?
• RQ2 How do actants and their relationships realign over time to form, nucleate, or subsume conspiracy theories across platforms?
• RQ3 Can a near real-time pipeline reveal the dynamics and flow of conspiracy narratives between social media and the news?
• RQ4 What communities emerge within the social media narrative networks, and how do they correspond to patterns observed in news content?

주요 결과

• 파이프라인은 소셜 미디어 코퍼스에서 52개의 커뮤니티를 식별하여 다양한 지식 도메인을 나타낸다.
• 음모 이론은 종종 서로 다른 도메인을 정렬하여 더 크고 포괄적인 내러티브를 형성하며, 반백신주의 및 다른 주제와의 연결을 포함한다.
• 새로운 이론이 등장하고(예: 5G를 근본 원인으로 보는 이론) 기존 이론이 시간이 지남에 따라 다른 이론과 핵화되거나 합류한다.
• 소셜 미디어 커뮤니티와 뉴스 보도 간에 정보 흐름이 측정 가능하며 두 코퍼스 간에 시간상으로 상관된 패턴이 있다.
• 일일 모니터링은 내러티브 그래프의 상승·하강을 포착하고 음모론자들에 의해 재해석되기 쉬운 뉴스 영역을 강조한다.