[论文解读] Information Credibility in the Social Web: Contexts, Approaches, and Open Issues

Gabriella Pasi, Marco Viviani|arXiv (Cornell University)|Jan 26, 2020

Misinformation and Its Impacts参考文献 50被引用 9

一句话总结

本文全面综述了社交网络中信息可信度评估的各类方法，聚焦于三个关键场景：意见垃圾信息、虚假新闻和与健康相关的错误信息。文章将现有方法分类为数据驱动型、模型驱动型、基于图的方法和基于知识的方法，指出其优势与局限性，并识别出若干开放性问题，如知识库维护、虚假内容的早期检测，以及可信度评估系统中对用户隐私数据的处理问题。

ABSTRACT

In the Social Web scenario, large amounts of User-Generated Content (UGC) are diffused through social media often without almost any form of traditional trusted intermediaries. Therefore, the risk of running into misinformation is not negligible. For this reason, assessing and mining the credibility of online information constitutes nowadays a fundamental research issue. Credibility, also referred as believability, is a quality perceived by individuals, who are not always able to discern, with their own cognitive capacities, genuine information from fake one. Hence, in the last years, several approaches have been proposed to automatically assess credibility in social media. Many of them are based on data-driven models, i.e., they employ machine learning techniques to identify misinformation, but recently also model-driven approaches are emerging, as well as graph-based approaches focusing on credibility propagation, and knowledge-based ones exploiting Semantic Web technologies. Three of the main contexts in which the assessment of information credibility has been investigated concern: (i) the detection of opinion spam in review sites, (ii) the detection of fake news in microblogging, and (iii) the credibility assessment of online health-related information. In this article, the main issues connected to the evaluation of information credibility in the Social Web, which are shared by the above-mentioned contexts, are discussed. A concise survey of the approaches and methodologies that have been proposed in recent years to address these issues is also presented.

研究动机与目标

• 分析由于传统中介的缺失以及虚假信息的兴起，社交网络中信息可信度评估所面临的挑战。
• 对意见垃圾信息、虚假新闻和与健康相关的信息这三个关键场景中，自动可信度评估的前沿方法进行分类与比较。
• 识别这些场景中的共性开放问题，包括知识库维护、虚假内容的早期检测，以及对可信度评估系统中敏感用户数据的处理。
• 提出未来研究方向，特别是结合领域知识、机器学习与实时检测的混合模型，以提升可信度评估效果。

提出的方法

• 将可信度评估方法分类为数据驱动型（如机器学习）、模型驱动型、基于图的方法（用于传播分析）和基于知识的方法（利用语义网与知识库）。
• 分析利用知识库验证SPO（主语-谓语-宾语）三元组是否与可信事实一致的方法，将现有三元组视为真实以用于可信度评估。
• 评估基于传播的方法，通过追踪信息在社交网络中的传播路径，识别垃圾机器人和虚假信息传播模式。
• 研究多准则决策模型（MCDM），该类模型对多种可信度指标进行加权，但需注意其可解释性与可扩展性方面的挑战。
• 提出混合方法，当训练数据有限或存在偏差时，整合监督学习、领域知识与实时数据。
• 考虑过滤算法与用户画像在强化回音室效应与信息过滤泡沫中的作用，这些因素会影响可信度感知与信息传播。

实验结果

研究问题

• RQ1 数据驱动型、模型驱动型、基于图的方法与基于知识的方法在社交媒体可信度评估中的机制与有效性方面有何差异？
• RQ2 在意见垃圾信息、虚假新闻与与健康相关的错误信息这三种场景中，可信度评估面临哪些共性挑战？
• RQ3 如何维护与更新知识库，以确保其在快速变化的社交媒体环境中的准确性与相关性？
• RQ4 用户行为模式（如确认偏误与回音室效应）在多大程度上会破坏可信度评估系统？
• RQ5 如何实现对有害内容（如虚假新闻或仇恨言论）的早期检测，以在造成广泛损害前限制其传播？

主要发现

• 基于知识的方法可通过将SPO三元组与可信知识库比对来有效验证信息，但面临缺失事实与更新延迟的挑战。
• 基于传播的方法在识别虚假信息传播者与追踪虚假内容扩散方面有效，但需要复杂的图分析与预先计算的可信度评分。
• 监督学习方法常因‘黑箱’特性与数据依赖性而受限，尤其在训练数据有限或存在偏差时更为明显。
• 将领域知识与机器学习结合具有广阔前景，尤其在健康信息等对准确性要求高、错误后果严重的场景中。
• 对虚假或有害内容的早期检测仍是重大开放挑战，目前在广泛传播前实现实时识别方面进展有限。
• 尽管用户生成内容中涉及的机密或敏感信息在可信度评估中具有潜在价值，但其处理仍缺乏足够研究，尤其在经过适当脱敏后可提升来源可靠性评估。