[论文解读] A Survey on Multimodal Disinformation Detection

Firoj Alam, Stefano Cresci+7 more|arXiv (Cornell University)|Mar 13, 2021

Misinformation and Its Impacts参考文献 83被引用 13

一句话总结

本综述对多模态虚假信息检测进行了全面分析，主张采用整合框架，联合评估文本、图像、视频、音频、社交网络结构和时间数据中的事实性与危害性。它指出了情境化、偏见以及可解释模型缺乏等关键挑战，并呼吁实现细粒度分类与透明、可问责的系统，以提高检测准确性和伦理化部署。

ABSTRACT

Recent years have witnessed the proliferation of offensive content online such as fake news, propaganda, misinformation, and disinformation. While initially this was mostly about textual content, over time images and videos gained popularity, as they are much easier to consume, attract more attention, and spread further than text. As a result, researchers started leveraging different modalities and combinations thereof to tackle online multimodal offensive content. In this study, we offer a survey on the state-of-the-art on multimodal disinformation detection covering various combinations of modalities: text, images, speech, video, social media network structure, and temporal information. Moreover, while some studies focused on factuality, others investigated how harmful the content is. While these two components in the definition of disinformation (i) factuality, and (ii) harmfulness, are equally important, they are typically studied in isolation. Thus, we argue for the need to tackle disinformation detection by taking into account multiple modalities as well as both factuality and harmfulness, in the same framework. Finally, we discuss current challenges and future research directions

研究动机与目标

• 通过在统一的多模态虚假信息检测框架中整合事实性与危害性，弥合现有研究的空白。
• 分析多种模态（文本、图像、视频、音频、社交网络结构和时间数据）在提升虚假信息检测中的作用。
• 指出当前数据集的局限性，这些数据集通常仅涵盖2–3种模态，且缺乏对事实性与危害性的标注。
• 识别关键挑战，如情境化、偏见、文化敏感性，以及对可解释和细粒度检测模型的需求。
• 倡导透明、可问责且符合伦理的人工智能系统，为虚假信息标记提供可解释的推理过程。

提出的方法

• 系统性地调研文本、图像、视频、音频、社交网络和时间动态等多模态虚假信息检测的最先进方法。
• 分析用户、内容和传播特征在虚假信息传播不同阶段的贡献，其中早期检测更依赖于用户和内容特征。
• 评估融合多模态信号（如文本、视觉、音频和元数据）以提升事实性评估的多模态融合技术。
• 提出从二元分类转向多分类或有序回归，以实现对虚假信息的细粒度分类（例如，讽刺、误导、虚假关联等）。
• 整合社交背景、传播动态和用户响应链，以增强对虚假信息的情境理解。
• 强调需要具备人类标注解释和真实世界参考的数据集，以支持模型的可解释性和问责性。

实验结果

研究问题

• RQ1 不同模态组合（文本、图像、视频、音频、网络、时间）在检测虚假信息中的贡献如何？
• RQ2 事实性与危害性在多模态虚假信息中在多大程度上共同出现？它们在不同语言和文化中如何变化？
• RQ3 当前多模态虚假信息检测系统在情境化、偏见和可解释性方面的关键局限性是什么？
• RQ4 如何利用用户和内容特征在虚假信息广泛传播前实现早期检测？
• RQ5 细粒度分类和可解释人工智能在提升虚假信息检测系统可靠性与伦理化部署方面发挥什么作用？

主要发现

• 事实性与危害性都是虚假信息的关键组成部分，但通常被孤立研究；联合建模尚未得到充分探索，却至关重要。
• 早期虚假信息检测严重依赖用户和内容特征，而后期检测则更受益于传播和时间网络特征。
• 尽管图像和视频在传播虚假信息中具有高度影响力和可信度，但现有模型中仅有极少数利用了这些模态。
• 当前的多模态数据集通常仅涵盖2–3种模态，且缺乏对事实性与危害性的标注，限制了模型的泛化能力。
• 事实性与危害性之间存在显著相关性（例如，56%的阿拉伯语虚假内容具有危害性，而英文仅为24%），表明存在语言和文化特异性模式。
• 迫切需要具备可解释性、透明性的模型，能够提供可解释的推理过程，包括来自真实新闻的证据以及对伪造内容组件的检测。