[논문 리뷰] The False COVID-19 Narratives That Keep Being Debunked: A Spatiotemporal Analysis

Iknoor Singh, Kalina Bontcheva외 1명|arXiv (Cornell University)|2021. 07. 26.

Misinformation and Its Impacts참고 문헌 22인용 수 5

한 줄 요약

이 연구는 코로나19 바이러스 사실 확인 연합에서 제공한 10,381건의 사실 확인 데이터셋을 바탕으로, 잘못된 코로나19 관련 가짜 뉴스의 시공간적 재발을 분석한다. 그 결과, 거의 동일한 가짜 뉴스가 초반에 부정확하다고 밝혀진 지 몇 개월 후에도 여러 국가와 플랫폼에서 다시 나타나며, 특히 일반적인 의료 조언 형태로 나타나는 경향이 있어 사실 확인 작업이 반복되며 자원 낭비가 발생하고 있음을 밝혀냈다. 연구자들은 자원 낭비를 줄이기 위해 다국어 사실 확인 검색 도구와 플랫폼 수준의 도입을 제안한다.

ABSTRACT

The onset of the COVID-19 pandemic led to a global infodemic that has brought unprecedented challenges for citizens, media, and fact-checkers worldwide. To address this challenge, over a hundred fact-checking initiatives worldwide have been monitoring the information space in their countries and publishing regular debunks of viral false COVID-19 narratives. This study examines the database of the CoronaVirusFacts Alliance, which contains 10,381 debunks related to COVID-19 published in multiple languages by different fact-checking organisations. Our spatiotemporal analysis reveals that similar or nearly duplicate false COVID-19 narratives have been spreading in multiple modalities and on various social media platforms in different countries, sometimes as much as several months after the first debunk of that narrative has been published by an International Fact-checking Network (IFCN) fact-checker. We also find that misinformation involving general medical advice has spread across multiple countries and hence has the highest proportion of false COVID-19 narratives that keep being debunked. Furthermore, as manual fact-checking is an onerous task in itself, therefore the need to repeatedly debunk the same narrative in different countries is leading, over time, to a significant waste of fact-checker resources. To this end, we propose the idea of including a multilingual debunk search tool in the fact-checking pipeline, in addition to recommending strongly that social media platforms need to adopt the same technology at scale, so as to make the best use of scarce fact-checker resources.

연구 동기 및 목표

• 다양한 국가와 소셜 미디어 플랫폼에서 잘못된 코로나19 관련 뉴스의 지속성과 재발성을 조사하기.
• 이미 수정된 바에도 불구하고 반복적으로 부정확하게 퍼지는 뉴스 유형의 패턴을 특정하기.
• 동일한 뉴스가 여러 지역에서 반복적으로 수작업으로 사실 확인되면서 발생하는 자원 낭비를 정량화하기.
• 반복적인 사실 확인 작업을 줄이기 위한 확장 가능한 기술적 해결책—다국어 사실 확인 검색 도구—제안하기.
• 소셜 미디어 플랫폼이 이 기술을 규모적으로 통합하여 오류 정보 확산 방지를 강력히 권장하기.

제안 방법

• 코로나19 바이러스 사실 확인 연합의 10,381건의 사실 확인 데이터셋을 활용해 다국어 및 다양한 사실 확인 기구를 포함한 시공간 분석을 수행하였다.
• 시간이 지남에 따라 동일하거나 유사한 가짜 뉴스가 다양한 국가와 소셜 미디어 플랫폼에서 재발하는지 추적하였다.
• 주제별로 가짜 뉴스를 분류하여, 재발 빈도를 평가하기 위해 일반적인 의료 조언에 중점을 두었다.
• 초기에는 부정확하다고 밝혀졌지만 수개월 후 다른 지역에서 다시 나타난 뉴스를 식별하여 지속적인 확산을 확인하였다.
• 재발하는 가짜 뉴스를 조기에 탐지하고 차단하기 위해 사실 확인 파이프라인에 다국어 사실 확인 검색 도구를 통합하는 것을 제안하였다.
• 이 기술을 플랫폼 수준에서 도입하여 대규모로 재확산을 방지할 것을 주장하였다.

실험 결과

연구 질문

• RQ1 같은 잘못된 코로나19 뉴스가 부정확하다고 밝혀진 후, 다양한 국가와 소셜 미디어 플랫폼에서 얼마나 자주 재발하는가?
• RQ2 특히 일반적인 의료 조언 분야에서 어떤 종류의 가짜 뉴스가 반복적인 확산에 가장 취약한가?
• RQ3 초기 부정확함이 밝혀진 후, 다른 지역에서 같은 뉴스가 재등장하기까지의 시간적 간격은 얼마인가?
• RQ4 동일한 뉴스가 반복적으로 재발하면서 발생하는 수작업 사실 확인 작업의 중복성은 어느 정도인가?
• RQ5 다국어 사실 확인 검색 도구는 사실 확인자들의 부담을 어떻게 줄이고, 대규모 오류 정보 대응을 어떻게 향상시킬 수 있는가?

주요 결과

• 거의 동일한 잘못된 코로나19 뉴스가 여러 국가와 다양한 플랫폼에서 재발했으며, 초반에 부정확하다고 밝혀진 지 몇 개월 후에도 나타났다.
• 일반적인 의료 조언과 관련된 가짜 뉴스가 가장 높은 재발률을 보이며 광범위하고 지속적인 확산을 보였다.
• 동일한 뉴스가 여러 지역에서 반복적으로 수작업으로 사실 확인되었으며, 이는 사실 확인 워크플로우의 심각한 비효율성을 보여주었다.
• 본 연구는 현재 오류 정보 대응의 핵심적 격차를 규명했다: 재발하는 잘못된 주장을 다국어로 확장 가능한 방식으로 탐지할 수 있는 기술의 부재.
• 제안된 다국어 사실 확인 검색 도구는 재확산 뉴스를 조기에 탐지함으로써 중복된 사실 확인 작업을 크게 줄일 수 있다.
• 소셜 미디어 플랫폼은 이 기술을 규모적으로 도입하여 부정확한 콘텐츠의 재등장을 방지할 것을 촉구한다.