[論文レビュー] Hate multiverse spreads malicious COVID-19 content online beyond individual platform control

Nicolás Velásquez, Rhys Leahy+7 more|arXiv (Cornell University)|Apr 1, 2020

Misinformation and Its Impacts参考文献 13被引用数 35

ひとこと要約

本論文は、憎悪表現を含む悪意あるCOVID-19コンテンツが、単一のプラットフォームを超えたオンライン憎悪のマルチバース全体で拡散することを示しており、MLトピック分析と一般化R0モデルを用いて転換点と政策オプションを特定する。

ABSTRACT

We show that malicious COVID-19 content, including hate speech, disinformation, and misinformation, exploits the multiverse of online hate to spread quickly beyond the control of any individual social media platform. Machine learning topic analysis shows quantitatively how online hate communities are weaponizing COVID-19, with topics evolving rapidly and content becoming increasingly coherent. Our mathematical analysis provides a generalized form of the public health R0 predicting the tipping point for multiverse-wide viral spreading, which suggests new policy options to mitigate the global spread of malicious COVID-19 content without relying on future coordination between all online platforms.

研究の動機と目的

• 悪質なCOVID-19コンテンツが、単一プラットフォームの境界を超えてオンライン憎悪コミュニティを通じてどのように伝播するかを調査する。
• 憎悪トピックの進化とコンテンツの一貫性が時間とともにどう変化するかを定量化する。
• マルチバース全体の拡散を特徴づける分析ツール（トピック分析とR0型モデリング）を開発する。
• プラットフォーム横断の協調を必要とせずに世界的拡散を緩和する政策オプションを提案する。

提案手法

• オンライン憎悪コミュニティに対して機械学習トピック分析を適用し、COVID-19に関連するコンテンツを追跡する。
• トピックの進化を分析し、時間とともにコンテンツの一貫性を測定する。
• マルチバース全体のウイルス拡散の転換点を予測するための公衆衛生R0の一般化型を導出する。
• すべてのプラットフォームでの協調を必要とせず、拡散を減らすことを目的とした政策含意を提供する。

実験結果

リサーチクエスチョン

• RQ1 オンライン憎悪ネットワーク内で、悪質なCOVID-19コンテンツがプラットフォーム横断で拡散する仕組みは何か？
• RQ2 COVID-19に関連する憎悪トピックはどのように進化し、コンテンツの一貫性は時間とともに高まるのか？
• RQ3 一般化R0モデルによるマルチバース全体のウイルス拡散の転換点は何か？
• RQ4 すべてのプラットフォームで協調行動を要さず、世界的拡散を緩和する政策オプションは何か？

主な発見

• 悪質な COVID-19 コンテンツは、オンライン憎悪のマルチバースを通じて特定のプラットフォームを超えて拡散する。
• オンライン憎悪コミュニティはCOVID-19を武器にし、トピックは急速に進化する。
• これらのネットワーク内でコンテンツは時間とともに一貫性を高める。
• 一般化された公衆衛生R0は、マルチバース全体の拡散の転換点フレームワークを提供する。
• 跨Platform協調を必要とせず、世界的拡散を緩和する政策オプションが特定されている。