[论文解读] Limiting the Spread of Fake News on Social Media Platforms by Evaluating Users' Trustworthiness

Oana Balmau, Rachid Guerraoui+4 more|arXiv (Cornell University)|Aug 29, 2018

Misinformation and Its Impacts参考文献 41被引用 5

一句话总结

Credulix 是一种内容无关的系统，通过基于用户对已核查新闻项的过往分享行为来估算新闻项的可信度，从而限制社交媒体上的虚假新闻传播。在用户可信度记录的贝叶斯框架下，该系统可识别超过99%的虚假新闻，且无误报，并对用户操作造成的延迟开销低于3%，吞吐量影响低于8%。

ABSTRACT

Today's social media platforms enable to spread both authentic and fake news very quickly. Some approaches have been proposed to automatically detect such "fake" news based on their content, but it is difficult to agree on universal criteria of authenticity (which can be bypassed by adversaries once known). Besides, it is obviously impossible to have each news item checked by a human. In this paper, we a mechanism to limit the spread of fake news which is not based on content. It can be implemented as a plugin on a social media platform. The principle is as follows: a team of fact-checkers reviews a small number of news items (the most popular ones), which enables to have an estimation of each user's inclination to share fake news items. Then, using a Bayesian approach, we estimate the trustworthiness of future news items, and treat accordingly those of them that pass a certain "untrustworthiness" threshold. We then evaluate the effectiveness and overhead of this technique on a large Twitter graph. We show that having a few thousands users exposed to one given news item enables to reach a very precise estimation of its reliability. We thus identify more than 99% of fake news items with no false positives. The performance impact is very small: the induced overhead on the 90th percentile latency is less than 3%, and less than 8% on the throughput of user operations.

研究动机与目标

• 解决社交媒体平台上虚假新闻病毒式传播的问题，其中基于内容的检测不可靠，且大规模人工事实核查不可行。
• 开发一种可扩展、可部署的系统，利用现有的人工事实核查工作，无需内容分析或用户标注。
• 在保持虚假新闻检测高准确率的同时，最小化对社交媒体平台的性能开销。
• 使社交网络能够基于经验证的事实核查所衍生的行为可信度指标，主动抑制虚假新闻在传播前的扩散。
• 提供一种通用的、插件式解决方案，可与现有基于内容的检测方法互补，而无需依赖特定的语言或语义特征。

提出的方法

• 通过跟踪哪些用户已查看或分享过已核查的新闻项，收集用户可信度记录（UCRs），建立用户可信度的基线。
• 应用拉普拉斯的 Succession 法则，基于用户的历史行为估算其分享虚假新闻的先验概率。
• 使用贝叶斯定理计算在已知分享该新闻项的用户集合下，该新闻项为虚假的后验概率。
• 定义一个可信度阈值（例如99.9999%），将不满足该阈值的项目标记为不可信，并阻止其进一步传播。
• 将系统作为插件集成到社交媒体平台中，独立于内容分析运行，且无需用户反馈或标签。
• 在精神上借鉴孔多塞陪审团定理，聚合来自大量用户的微弱信号，以实现高集体可靠性来检测虚假新闻。

实验结果

研究问题

• RQ1 仅基于用户对已核查新闻项的分享行为，内容无关的系统能否有效检测并限制虚假新闻的传播？
• RQ2 基于分享该新闻项的用户的可信度，贝叶斯模型在多大程度上能准确估算新闻项为虚假的概率？
• RQ3 在类似 Twitter 的大规模社交网络上部署此类系统时，性能开销如何？
• RQ4 少量已核查的病毒式传播新闻项在多大程度上可实现对大量新新闻项可信度的精确估计？
• RQ5 该系统能否在真实部署中实现近乎完美的虚假新闻检测，且无误报？

主要发现

• 当应用于包含4100万名用户的现实世界 Twitter 图时，Credulix 识别出超过99%的虚假新闻项，且无误报。
• 该系统在仅少数数千名用户接触某一新闻项时即可实现高检测准确率，从而能够精确估计其可靠性。
• 性能开销极小：在负载下，第90百分位延迟增加低于3%，吞吐量下降低于8%。
• 贝叶斯模型有效聚合用户行为以推断新闻项的可信度，而无需依赖内容分析或语言特征。
• 该方法具有鲁棒性和可扩展性，因为事实核查员只需审查最病毒式传播的新闻项，而非全部内容。
• Credulix 与现有基于内容的检测系统互补，可作为插件部署，且无需对核心社交媒体基础设施进行任何修改。