[论文解读] Can WhatsApp Benefit from Debunked Fact-Checked Stories to Reduce Misinformation?

Júlio C. S. Reis, Philipe Melo+2 more|arXiv (Cornell University)|Jun 3, 2020

Misinformation and Its Impacts被引用 11

一句话总结

本文提出了一种保护隐私的、在设备端运行的事实核查架构，用于WhatsApp，该架构使用感知哈希技术实时检测并标记此前已被驳斥的虚假信息图片，且不破坏端到端加密。研究发现，在巴西和印度，分别有40.7%和82.2%的虚假信息分享行为发生在事实核查之后，表明通过主动检测来预防传播存在重大遗漏机会。

ABSTRACT

WhatsApp was alleged to be widely used to spread misinformation and propaganda during elections in Brazil and India. Due to the private encrypted nature of the messages on WhatsApp, it is hard to track the dissemination of misinformation at scale. In this work, using public WhatsApp data, we observe that misinformation has been largely shared on WhatsApp public groups even after they were already fact-checked by popular fact-checking agencies. This represents a significant portion of misinformation spread in both Brazil and India in the groups analyzed. We posit that such misinformation content could be prevented if WhatsApp had a means to flag already fact-checked content. To this end, we propose an architecture that could be implemented by WhatsApp to counter such misinformation. Our proposal respects the current end-to-end encryption architecture on WhatsApp, thus protecting users' privacy while providing an approach to detect the misinformation that benefits from fact-checking efforts.

研究动机与目标

• 调查第三方机构已核查的虚假信息是否仍在WhatsApp上继续传播。
• 评估利用公开事实核查数据主动检测并阻止WhatsApp上已被驳斥内容的可行性。
• 设计一种保护隐私的架构，使WhatsApp能够在不破坏端到端加密的前提下检测已知虚假信息。
• 评估利用现有事实核查工作减少加密消息平台中虚假信息传播的潜力。

提出的方法

• 在巴西和印度的全国大选期间收集了公开的WhatsApp群组数据，重点关注基于图片的虚假信息。
• 从巴西和印度的事实核查机构获取了135张已核查的虚假信息图片数据集以及相应的驳倒日期。
• 应用PDQ哈希——一种先进的感知哈希技术——在WhatsApp数据中检测已核查图片的近似相同或修改版本。
• 使用反向图片搜索和人工验证，确保对已核查内容的准确标注，并验证WhatsApp数据集中匹配结果的正确性。
• 提出一种设备端检测架构，其中WhatsApp客户端将接收到的共享内容与用户设备上本地存储的、加密的已驳倒内容哈希数据库进行比对。
• 设计系统时通过在用户设备上本地执行匹配操作，尊重端到端加密，确保服务器端不进行内容检查。

实验结果

研究问题

• RQ1 在专业机构已核查并驳倒后，虚假信息在WhatsApp上仍被传播到何种程度？
• RQ2 WhatsApp如何利用现有事实核查工作来防止已被证伪内容的传播？
• RQ3 是否可行实现一种保护隐私的系统，以检测端到端加密消息应用中的已知虚假信息？
• RQ4 在WhatsApp公开群组中，有多少比例的虚假信息分享行为发生在内容被事实核查机构标记为虚假之后？

主要发现

• 在巴西WhatsApp公开群组中，40.7%的虚假信息图片分享行为发生在内容被核查之后，表明存在显著的核查后传播现象。
• 在印度WhatsApp公开群组中，82.2%的虚假信息图片分享行为发生在内容被事实核查机构标记为虚假之后，凸显了内容管理中的重大缺口。
• 尽管内容已被标记为虚假，但仍有大量虚假信息在WhatsApp上广泛传播，表明仅靠公共事实核查不足以遏制其传播。
• 感知哈希（PDQ）技术成功检测到WhatsApp数据中已核查图片的近似相同或修改版本，证明了技术上的可行性。
• 所提出的设备端架构能够在不破坏端到端加密的前提下检测已知虚假信息，从而保护用户隐私。
• 本研究收集的事实核查图片数据集和WhatsApp群组数据，是迄今为止公开可用的、用于分析WhatsApp虚假信息传播路径的最大样本。