[论文解读] Hate multiverse spreads malicious COVID-19 content online beyond individual platform control

Nicolás Velásquez, Rhys Leahy+7 more|arXiv (Cornell University)|Apr 1, 2020

Misinformation and Its Impacts参考文献 13被引用 35

一句话总结

论文表明，恶意COVID-19内容包括仇恨言论，穿越超越单一平台的在线仇恨多重宇宙传播，使用机器学习主题分析和广义R0模型来识别拐点和政策选项。

ABSTRACT

We show that malicious COVID-19 content, including hate speech, disinformation, and misinformation, exploits the multiverse of online hate to spread quickly beyond the control of any individual social media platform. Machine learning topic analysis shows quantitatively how online hate communities are weaponizing COVID-19, with topics evolving rapidly and content becoming increasingly coherent. Our mathematical analysis provides a generalized form of the public health R0 predicting the tipping point for multiverse-wide viral spreading, which suggests new policy options to mitigate the global spread of malicious COVID-19 content without relying on future coordination between all online platforms.

研究动机与目标

• 调查恶意COVID-19内容如何在超出单一平台边界的在线仇恨社区中传播。
• 量化仇恨主题如何进化以及内容连贯性随时间的变化。
• 开发分析工具（主题分析和R0风格建模）以表征多重宇宙范围的传播。
• 提出无需跨平台协调即可减缓全球传播的政策选项。

提出的方法

• 将机器学习主题分析应用于在线仇恨社区，以跟踪与COVID-19相关的内容。
• 分析主题演变并测量内容随时间的连贯性。
• 推导广义的公共卫生R0形式，以预测多重宇宙范围内病毒传播的拐点。
• 提供旨在在不需要跨所有平台协调的情况下减少传播的政策含义。

实验结果

研究问题

• RQ1 哪些机制促成恶意COVID-19内容在在线仇恨网络中的跨平台传播？
• RQ2 与COVID-19相关的仇恨主题如何演变，内容连贯性是否随时间增加？
• RQ3 根据广义R0模型，多重宇宙范围内病毒传播的拐点是什么？
• RQ4 哪些政策选项可以在不需要所有平台协同行动的情况下减缓全球传播？

主要发现

• 恶意COVID-19内容通过在线仇恨的多重宇宙传播，超越任何单一平台。
• 在线仇恨社区利用COVID-19，主题快速演变。
• 这些网络中的内容随时间变得越来越连贯。
• 广义公共卫生R0提供了多重宇宙范围传播的拐点框架。
• 识别出在无需跨平台协调的情况下减缓全球传播的政策选项。