[论文解读] Preventing the Spread of Online Harms: Physics of Contagion across Multi-Platform Social Media and Metaverses

Xu Chen, P. M. Hui+3 more|arXiv (Cornell University)|Jan 12, 2022

Misinformation and Its Impacts被引用 4

一句话总结

本文提出了一种基于物理的在线伤害传播模型，适用于多平台社交媒体与元宇宙，整合了动态聚类、平台异质性及有针对性的管理员干预措施。该模型推导出一种在线‘R₀’准则，预测了再entrant传播相变，并量化了实现在线群体免疫所需的数字疫苗接种阈值。

ABSTRACT

We present a minimal yet empirically-grounded theory for the spread of online harms (e.g. misinformation, hate) across current multi-platform social media and future Metaverses. New physics emerges from the interplay between the intrinsic heterogeneity among online communities and platforms, their clustering dynamics generated through user-created links and sudden moderator shutdowns, and the contagion process. The theory provides an online `R-nought' criterion to prevent system-wide spreading; it predicts re-entrant spreading phases; it establishes the level of digital vaccination required for online herd immunity; and it can be applied at multiple scales.

研究动机与目标

• 开发一种最小但基于实证的理论，用于解释在线伤害（如虚假信息与仇恨言论）在互联社交媒体平台及未来元宇宙中的传播机制。
• 解决在动态网络结构与针对性管理员干预背景下，缺乏系统性框架以理解大规模传播动力学的问题。
• 推导出一种定量准则，用于防止系统性传播，其形式类似于流行病学中的R₀，适用于不同平台与尺度。
• 量化实现在线群体免疫所需数字疫苗接种水平（例如反制信息传播），以防止大规模伤害传播。
• 探讨平台特异性动态（如不同链接形成频率与聚类行为）如何影响在线生态系统的韧性。

提出的方法

• 构建主方程（公式1），建模节点间簇成员概率的时间演化，整合平台特异的碎片化与聚合速率。
• 采用稳态平均法（公式2），推导出依赖于平台占比及跨物种与内物种链接动态的系统级簇连通性度量。
• 引入广义‘R₀’准则（公式4），基于链接形成与碎片化速率，确定系统性传播的临界阈值。
• 将模型应用于三种不同情形：（I）物种间链接形成速率相等；（II）平台依赖的链接形成（如Facebook与Gab）；（III）通过降低感染概率实现数字疫苗接种。
• 推导出防止系统性传播的关键疫苗接种阈值（公式6），其依赖于感染率、恢复率与疫苗效力。
• 利用数值模拟与相图（如图2、3、4）可视化不同参数下的传播边界与再entrant相变行为。

实验结果

研究问题

• RQ1 在多平台社交媒体与元宇宙中，何种临界条件可导致在线伤害实现系统性传播？
• RQ2 动态聚类与有害社区的突发管理员关停如何影响再entrant传播相变的出现？
• RQ3 为实现在线群体免疫并防止大规模传播，需要多大程度的数字疫苗接种（如反制信息传播）？
• RQ4 平台特异的链接形成频率如何影响平台对外部伤害传播的韧性？
• RQ5 对某一平台或节点物种实施针对性疫苗接种，是否会无意中将有害内容重新定向至其他保护较弱的平台？

主要发现

• 模型预测传播行为存在再entrant相变：即使链接形成速率固定，平台在低流行度时可能处于无传播状态，但随着其流行度上升，可能重新进入传播状态。
• 仅当主导平台（如R）上的节点比例位于参数空间中特定的半椭圆区域内时，才能防止系统性传播，表明可通过针对性干预实现控制，而无需全面封锁。
• 在线群体免疫的临界阈值由公式6量化：必须有一定比例的节点完成疫苗接种，且所需比例随疫苗效力（1−φ）提高而降低。
• 对单一平台（如B）上所有节点进行疫苗接种，并未显著减少整体传播区域，表明有害内容可能仅被重新定向至其他保护较弱的平台。
• 模型表明，链接形成频率较低的平台（如Gab相较于Facebook）即使处于更大网络中，也更难维持系统性传播。
• 使用两组参数，模型即可良好拟合关于新冠虚假信息传播的实证数据（图1b,c），验证了其在极少假设下的预测能力。