[论文解读] Can We Spot the "Fake News" Before It Was Even Written?

Preslav Nakov|arXiv (Cornell University)|Aug 10, 2020

Misinformation and Its Impacts参考文献 69被引用 7

一句话总结

本文提出一种主动应对虚假新闻的方法，通过在文章发布前评估新闻媒体的可信度，利用媒体画像技术检测偏见、党派性和事实准确性。Tanbih 新闻聚合器通过分析媒体的历史内容来识别潜在误导性报道，使读者能够在阅读内容前以语境化方式评估信息来源。

ABSTRACT

Given the recent proliferation of disinformation online, there has been also growing research interest in automatically debunking rumors, false claims, and "fake news." A number of fact-checking initiatives have been launched so far, both manual and automatic, but the whole enterprise remains in a state of crisis: by the time a claim is finally fact-checked, it could have reached millions of users, and the harm caused could hardly be undone. An arguably more promising direction is to focus on fact-checking entire news outlets, which can be done in advance. Then, we could fact-check the news before it was even written: by checking how trustworthy the outlets that published it is. We describe how we do this in the Tanbih news aggregator, which makes readers aware of what they are reading. In particular, we develop media profiles that show the general factuality of reporting, the degree of propagandistic content, hyper-partisanship, leading political ideology, general frame of reporting, and stance with respect to various claims and topics.

研究动机与目标

• 解决事实核查滞后的问题，即错误信息在被纠正前已迅速传播。
• 将关注点从单个声明的验证转向对新闻媒体在发布前的评估。
• 开发能够捕捉整体可信度、偏见和叙事倾向的媒体画像。
• 通过 Tanbih 新闻聚合器，使读者能够获得对信息源可信度的语境化认知。
• 通过基于媒体声誉的早期检测，减少错误信息的传播。

提出的方法

• 基于新闻媒体历史内容构建媒体画像，分析语言和结构特征。
• 通过评估报道声明的一致性和可验证性来衡量总体事实性。
• 利用情感语言、倾向性术语和选择性报道等线索检测宣传性内容。
• 通过相对于关键话题的立场检测，量化高度党派化和政治意识形态。
• 通过识别主导叙事模式和特定主题的偏见，建模媒体叙事方式。
• 将媒体画像集成到 Tanbih 新闻聚合器中，向读者提供实时的媒体可信度指标。

实验结果

研究问题

• RQ1 是否能够可靠地在文章发布前对媒体进行可信度、偏见和党派性的画像？
• RQ2 媒体层面的画像在多大程度上能够预测其发布误导性或虚假内容的可能性？
• RQ3 与事后事实核查相比，发布前的源评估在减少错误信息传播方面有多有效？
• RQ4 能否通过自动化画像有效提醒读者注意潜在的媒体偏见和党派性？
• RQ5 哪些特定的语言和结构特征与媒体可信度及宣传倾向相关性最强？

主要发现

• 媒体画像能够在单篇文章发布前实现对潜在误导性媒体的早期识别。
• 高度党派化和具有宣传性内容的媒体，更有可能发布虚假或误导性声明。
• Tanbih 聚合器通过展示媒体画像（包括事实性评分和意识形态倾向）成功提升了读者的警觉性。
• 媒体画像捕捉到了偏见和叙事方式的一致性模式，从而实现了可靠的源级别评估。
• 发布前的画像分析通过使读者能够语境化地评估信息源，降低了错误信息传播的风险。
• 该方法将事实核查范式从被动反应转变为积极预防，减轻了病毒式传播错误信息造成的不可逆损害。