[论文解读] Tiplines to Combat Misinformation on Encrypted Platforms: A Case Study of the 2019 Indian Election on WhatsApp

Ashkan Kazemi, Kiran Garimella+3 more|arXiv (Cornell University)|Jun 8, 2021

Misinformation and Its Impacts参考文献 24被引用 4

一句话总结

本研究评估了在2019年印度大选期间，针对端到端加密平台（如WhatsApp）上的虚假信息传播，利用众包热线进行事实核查的有效性。通过将CheckPoint热线提交的内容与公开WhatsApp群组及ShareChat上的内容进行对比，研究发现，热线捕获了大量病毒式传播内容——67%的热门图片和23%的热门文字信息，且通常在广泛传播前即被提交，表明其作为虚假信息检测的早期预警系统具有显著有效性。

ABSTRACT

There is currently no easy way to fact-check content on WhatsApp and other end-to-end encrypted platforms at scale. In this paper, we analyze the usefulness of a crowd-sourced "tipline" through which users can submit content ("tips") that they want fact-checked. We compare the tips sent to a WhatsApp tipline run during the 2019 Indian national elections with the messages circulating in large, public groups on WhatsApp and other social media platforms during the same period. We find that tiplines are a very useful lens into WhatsApp conversations: a significant fraction of messages and images sent to the tipline match with the content being shared on public WhatsApp groups and other social media. Our analysis also shows that tiplines cover the most popular content well, and a majority of such content is often shared to the tipline before appearing in large, public WhatsApp groups. Overall, our findings suggest tiplines can be an effective source for discovering content to fact-check.

研究动机与目标

• 调查众包热线是否可作为在端到端加密平台（如WhatsApp）上检测虚假信息的一种有效且保护隐私的方法。
• 了解在高风险政治事件（如2019年印度大选）期间，热线收到的提交内容的性质与范围。
• 将热线提交内容与在公开WhatsApp群组及其他社交媒体平台（如ShareChat）上传播的内容进行对比，以评估其代表性。
• 评估热线在检测病毒式虚假信息方面，相较于依赖开放社交媒体信号的传统事实核查机构的表现。
• 提供实证证据，证明热线可作为在虚假信息广泛传播前，识别加密平台上虚假信息的可扩展、早期预警系统。

提出的方法

• 收集了在2019年印度大选期间，通过CheckPoint热线提交的88,662条文字信息、48,978张图片和10,198个链接。
• 爬取了5,000个讨论印度政治的公开WhatsApp群组的数据，共收集668,829条文字信息和130万张图片。
• 从ShareChat获取了政治相关内容，包括120万张带有热度指标（点赞/分享数）的图片，以识别病毒式内容。
• 收集了3,224篇英文和2,220篇印地文的事实核查文章，以及这些文章中链接的811条原始推文。
• 使用最先进的文本与图像匹配技术，对比热线、公开WhatsApp群组、ShareChat及事实核查来源之间的内容。
• 分析内容传播的时间顺序，测量热线提交内容是否早于或晚于其他平台的公开传播。

实验结果

研究问题

• RQ1 热线在检测WhatsApp等加密社交媒体平台上的虚假信息方面效果如何？
• RQ2 在重大政治事件期间，虚假信息热线中最常提交的内容类型是什么？
• RQ3 热线中的内容与在公开WhatsApp群组及其他社交媒体平台上传播的内容在覆盖范围和时间顺序上如何比较？
• RQ4 热线在虚假信息广泛传播前，能多大程度上捕获到最具病毒性的虚假信息？
• RQ5 与依赖Twitter和Facebook等开放平台信号的传统事实核查机构相比，热线的覆盖范围如何？

主要发现

• 在2019年印度大选期间，67%在公开WhatsApp群组中传播最广的图片也已提交至WhatsApp热线。
• 在公开WhatsApp群组中传播最广的23%文字信息也已提交至热线，表明其对病毒式文字内容具有较强的覆盖能力。
• 大多数病毒式内容（包括图片与文字）均在大型公开WhatsApp群组中出现之前已提交至热线，表明热线可作为早期检测机制。
• 与通常依赖Twitter和Facebook等开放平台信号的传统事实核查机构相比，热线覆盖了更多来自WhatsApp公开群组的内容。
• 热线捕获了WhatsApp加密生态系统中的原生内容，相较于依赖开放平台的事实核查工作，能更真实地反映私密及半私密群组中传播的虚假信息。
• 本研究证明，热线是大规模识别和优先处理加密平台上虚假信息的一种可行且保护隐私的方法。