[论文解读] Open Issues in Combating Fake News: Interpretability as an Opportunity

Sina Mohseni, Eric D. Ragan+1 more|arXiv (Cornell University)|Apr 4, 2019

Misinformation and Its Impacts参考文献 33被引用 16

一句话总结

本文提出将可解释性作为应对虚假新闻的关键解决方案，引入两种主要方法：可解释的虚假新闻检测与透明的新闻推送算法。通过整合算法可解释性、人类可解释性以及基于证据的可解释性，该框架提升了用户信任与意识，减少回音室效应，并实现实时真实性核查而无需删除内容，相较于仅依赖检测或辟谣，提供了一种更具可持续性的缓解策略。

ABSTRACT

Combating fake news needs a variety of defense methods. Although rumor detection and various linguistic analysis techniques are common methods to detect false content in social media, there are other feasible mitigation approaches that could be explored in the machine learning community. In this paper, we present open issues and opportunities in fake news research that need further attention. We first review different stages of the news life cycle in social media and discuss core vulnerability issues for news feed algorithms in propagating fake news content with three examples. We then discuss how complexity and unclarity of the fake news problem limit the advancements in this field. Lastly, we present research opportunities from interpretable machine learning to mitigate fake news problems with 1) interpretable fake news detection and 2) transparent news feed algorithms. We propose three dimensions of interpretability consisting of algorithmic interpretability, human interpretability, and the inclusion of supporting evidence that can benefit fake news mitigation methods in different ways.

研究动机与目标

• 解决虚假新闻研究中的开放性问题，特别是当前检测方法的局限性，以及有偏见的新闻推送算法在传播错误信息中的作用。
• 强调新闻推送算法因缺乏透明度与可解释性，易被滥用以放大虚假新闻的脆弱性。
• 提出可解释性——涵盖算法、人类与基于证据的维度——作为改进虚假新闻缓解的创新方法。
• 倡导可解释的新闻推送系统，提供实时真实性解释，增强用户决策能力，而无需删除内容。
• 通过提高用户对算法内容选择过程的认知，降低过滤气泡与回音室形成的风险。

提出的方法

• 提出可解释性的三个维度：算法可解释性（模型透明性）、人类可解释性（用户可理解的解释），以及支持性证据的纳入（例如来自知识图谱或训练数据的证据）。
• 将真实性核查工具整合进新闻推送算法中，提供关于来源可信度、欺骗性语言及点击诱饵指标的实时、数据驱动的解释。
• 利用模型可视化与特征加权解释，向用户展示内容是如何被选中的，以提升对软性过滤与推荐逻辑的认知。
• 设计可解释的系统，说明为何某条内容被推荐或标记，使用户能够独立评估内容的可靠性。
• 将可解释的机器学习应用于新闻分发阶段，聚焦于分发阶段作为比谣言检测更快、更可扩展的缓解点。
• 利用知识图谱与语言分析支持事实核查，确保解释基于可验证的证据。

实验结果

研究问题

• RQ1 机器学习中的可解释性如何改善社交媒体中虚假新闻的检测与缓解？
• RQ2 新闻推送算法在何种方式下助长了虚假新闻的传播？如何使其更具透明度？
• RQ3 可解释性的三个关键维度是什么？它们在提升虚假新闻缓解方面的影响力有何不同？
• RQ4 在新闻推送中提供实时真实性解释，与自动化辟谣或内容删除相比，如何更有效地减少错误信息传播？
• RQ5 算法透明度在多大程度上可减少个性化新闻消费中过滤气泡与回音室的形成？

主要发现

• 可解释的机器学习为内容删除提供了可扩展且非侵入性的替代方案，使用户在获知信息真实性的同时仍能访问内容。
• 提供真实性解释的新闻推送算法可在不限制内容访问的前提下，降低错误信息传播的风险，同时惠及用户与内容提供者。
• 通过模型可视化与特征解释实现的算法透明度，可提高用户对推荐逻辑的认知，降低其对过滤气泡的易感性。
• 来自知识图谱或训练数据的支持性证据可增强解释的可信度，使可解释性更具可信度与可操作性。
• 在分发阶段嵌入可解释性，可实现比依赖社会语境的谣言检测方法更快的缓解速度，提升实时响应能力。
• 在算法、人类与基于证据的维度上整合可解释性，可构建更具问责性与可信度的新闻系统。