[论文解读] Can WhatsApp Counter Misinformation by Limiting Message Forwarding?

Philipe Melo, Carolina Coimbra Vieira+3 more|arXiv (Cornell University)|Sep 18, 2019

Misinformation and Its Impacts被引用 5

一句话总结

本文利用巴西、印度和印度尼西亚的真实WhatsApp群组数据，基于SEI流行病学模型评估了WhatsApp消息转发限制（5次转发）作为遏制虚假信息传播的对策。结果表明，该限制可将虚假信息传播延迟多达两个数量级，但无法阻止高病毒性内容在数周内广泛传播，尤其是在爆发性、高参与度的网络中。

ABSTRACT

WhatsApp is the most popular messaging app in the world. The closed nature of the app, in addition to the ease of transferring multimedia and sharing information to large-scale groups make WhatsApp unique among other platforms, where an anonymous encrypted messages can become viral, reaching multiple users in a short period of time. The personal feeling and immediacy of messages directly delivered to the user's phone on WhatsApp was extensively abused to spread unfounded rumors and create misinformation campaigns during recent elections in Brazil and India. WhatsApp has been deploying measures to mitigate this problem, such as reducing the limit for forwarding a message to at most five users at once. Despite the welcomed effort to counter the problem, there is no evidence so far on the real effectiveness of such restrictions. In this work, we propose a methodology to evaluate the effectiveness of such measures on the spreading of misinformation circulating on WhatsApp. We use an epidemiological model and real data gathered from WhatsApp in Brazil, India and Indonesia to assess the impact of limiting virality features in this kind of network. Our results suggest that the current efforts deployed by WhatsApp can offer significant delays on the information spread, but they are ineffective in blocking the propagation of misinformation campaigns through public groups when the content has a high viral nature.

研究动机与目标

• 评估WhatsApp 5条消息转发限制在现实世界中遏制虚假信息传播的有效性。
• 理解WhatsApp公共群组网络中的病毒式传播特性如何促成（虚假）信息的快速、大规模传播。
• 利用真实WhatsApp数据和流行病学框架，对虚假信息传播的时间动态进行建模。
• 评估当前技术限制是否足以防止选举期间有组织的虚假信息传播活动。
• 提出系统级干预措施，例如对可疑用户实施临时隔离，以提升平台的抗风险能力。

提出的方法

• 从巴西、印度和印度尼西亚收集真实WhatsApp群组数据，重点关注公共群组及消息转发模式。
• 基于群组之间的消息转发关系，重建公共WhatsApp群组网络。
• 应用易感-潜伏-感染（SEI）流行病学模型，模拟虚假信息在重建网络中的传播。
• 通过引入基于实际转发事件间隔时间的“潜伏期”，融入现实时间因素。
• 测试三种时间策略：随机时间、基于实际事件间隔时间、基于群组时间的潜伏期，以反映真实传播速度。
• 使用真实数据测量传播速度（以分钟为单位），比较转发限制对感染率和网络覆盖范围的影响。

实验结果

研究问题

• RQ1 WhatsApp的5次转发限制如何影响公共群组网络中虚假信息传播的速度与规模？
• RQ2 WhatsApp群组中的实际转发模式在多大程度上类似于爆发性、流行病式的传播动态？
• RQ3 SEI模型能否准确模拟虚假信息在WhatsApp群组网络结构中的感染时间？
• RQ4 不同的时间假设（随机、实际事件间隔、基于群组时间）如何影响虚假信息传播至大部分用户所需的时间估算？
• RQ5 在何种条件下，当前的转发限制不足以防止高潜力虚假信息的病毒式传播？

主要发现

• 与原始的256次转发限制相比，5次转发限制可将虚假信息传播延迟多达两个数量级。
• 在印度，当采用实际事件间隔时间时，200分钟内（不足3.5小时）60%的公共群组用户暴露于一条病毒式消息。
• 在巴西，基于群组时间的策略导致一半用户在3,000分钟内（约50小时）被感染，表明即使有转发限制，传播速度依然很快。
• 在印度尼西亚，三种时间策略均显示传播缓慢，超过80%的用户在两周后才被感染。
• 尽管存在延迟，所有三个国家的虚假信息传播仍具有高度病毒性，20%的消息传播时间足够长，足以实现广泛传播。
• 研究结论认为，仅靠转发限制无法有效应对有组织的、高病毒性虚假信息传播活动，尤其是在选举等关键事件期间。