[논문 리뷰] Hate multiverse spreads malicious COVID-19 content online beyond individual platform control

Nicolás Velásquez, Rhys Leahy외 7명|arXiv (Cornell University)|2020. 04. 01.

Misinformation and Its Impacts참고 문헌 13인용 수 35

한 줄 요약

이 논문은 악의적인 COVID-19 콘텐츠, 혐오 발언을 포함하여 단일 플랫폼을 넘어서 다중 우주형 온라인 혐오를 통해 확산되고, ML 주제 분석과 일반화된 R0 모델을 사용해 임계점과 정책 옵션을 식별한다.

ABSTRACT

We show that malicious COVID-19 content, including hate speech, disinformation, and misinformation, exploits the multiverse of online hate to spread quickly beyond the control of any individual social media platform. Machine learning topic analysis shows quantitatively how online hate communities are weaponizing COVID-19, with topics evolving rapidly and content becoming increasingly coherent. Our mathematical analysis provides a generalized form of the public health R0 predicting the tipping point for multiverse-wide viral spreading, which suggests new policy options to mitigate the global spread of malicious COVID-19 content without relying on future coordination between all online platforms.

연구 동기 및 목표

• 악의적인 COVID-19 콘텐츠가 단일 플랫폼 경계를 넘어 온라인 혐오 커뮤니티를 통해 어떻게 확산되는지 조사한다.
• 혐오 주제가 어떻게 진화하고 콘텐츠 일관성이 시간이 지나며 어떻게 변화하는지 정량화한다.
• 다중 우주 전역 확산을 특징짓기 위한 분석 도구(주제 분석 및 R0 스타일 모형화)를 개발한다.
• 크로스 플랫폼 조정 없이 글로벌 확산을 완화하기 위한 정책 옵션을 제시한다.

제안 방법

• 온라인 혐오 커뮤니티에 기계 학습 주제 분석을 적용하여 COVID-19 관련 콘텐츠를 추적한다.
• 주제의 진화를 분석하고 시간이 지남에 따라 콘텐츠 일관성을 측정한다.
• 다중 우주 전역 전염 확산의 임계점을 예측하기 위해 공중 보건 R0의 일반화된 형태를 도출한다.
• 모든 플랫폼 간 조정이 필요하지 않도록 확산 감소를 목표로 한 정책 시사점을 제시한다.

실험 결과

연구 질문

• RQ1 온라인 혐오 네트워크 내에서 악의적인 COVID-19 콘텐츠가 플랫폼 간 확산을 가능하게 하는 메커니즘은 무엇인가?
• RQ2 COVID-19 관련 혐오 주제가 어떻게 진화하고 콘텐츠 일관성이 시간이 지남에 따라 증가하는가?
• RQ3 일반화된 R0 모델에 따른 다중 우주 전역 확산의 임계점은 무엇인가?
• RQ4 모든 플랫폼 간의 조정 없이 글로벌 확산을 완화할 수 있는 정책 옵션은 무엇인가?

주요 결과

• 악의적인 COVID-19 콘텐츠는 온라인 혐오의 다중 우주를 통해 단일 플랫폼을 넘어 확산된다.
• 온라인 혐오 커뮤니티가 COVID-19를 악용하며 주제가 빠르게 진화한다.
• 이들 네트워크 내에서 콘텐츠의 일관성이 시간이 지남에 따라 점점 증가한다.
• 일반화된 공중 보건 R0는 다중 우주 전역 확산의 임계점 프레임워크를 제공한다.
• 크로스 플랫폼 조정 없이 글로벌 확산을 완화하기 위한 정책 옵션이 확인된다.