[论文解读] Zero-Shot Rumor Detection with Propagation Structure via Prompt Learning

Hongzhan Lin, Pengyao Yi+5 more|arXiv (Cornell University)|Dec 2, 2022

Misinformation and Its Impacts被引用 4

一句话总结

本文提出了一种零样本谣言检测框架——响应感知提示学习（RPL），该框架利用传播结构和多语言预训练语言模型，在无需标注数据的情况下实现跨语言和跨领域的谣言检测。通过建模响应线程中的结构化位置并采用虚拟响应增强技术，RPL在三个真实世界数据集上实现了最先进性能，尤其在早期谣言检测方面表现突出，显著优于现有方法，涵盖阿拉伯语和粤语等低资源语言。

ABSTRACT

The spread of rumors along with breaking events seriously hinders the truth in the era of social media. Previous studies reveal that due to the lack of annotated resources, rumors presented in minority languages are hard to be detected. Furthermore, the unforeseen breaking events not involved in yesterday's news exacerbate the scarcity of data resources. In this work, we propose a novel zero-shot framework based on prompt learning to detect rumors falling in different domains or presented in different languages. More specifically, we firstly represent rumor circulated on social media as diverse propagation threads, then design a hierarchical prompt encoding mechanism to learn language-agnostic contextual representations for both prompts and rumor data. To further enhance domain adaptation, we model the domain-invariant structural features from the propagation threads, to incorporate structural position representations of influential community response. In addition, a new virtual response augmentation method is used to improve model training. Extensive experiments conducted on three real-world datasets demonstrate that our proposed model achieves much better performance than state-of-the-art methods and exhibits a superior capacity for detecting rumors at early stages.

研究动机与目标

• 解决在低资源语言和新兴领域中因缺乏标注数据而难以检测谣言的挑战。
• 克服现有零样本谣言检测方法依赖任务特定微调或无法建模传播动态的局限性。
• 开发一种提示学习框架，将语言特异性句法与共享语义解耦，以提升跨语言和跨领域的泛化能力。
• 通过建模传播线程中的领域不变结构特征（如响应顺序和社区影响），增强领域自适应能力。
• 通过一种新颖的虚拟响应增强（ViRA）技术，提升低资源场景下的模型鲁棒性和训练效率。

提出的方法

• 通过将响应帖子按与初始声明的相关性排序，将谣言表示为传播线程，以捕捉时间与结构动态。
• 设计一种分层提示编码（HPE）机制，利用多语言预训练语言模型（PLMs）将语义意义与句法偏差解耦。
• 通过绝对和相对响应位置建模传播结构，以捕捉谣言扩散模式的领域不变特征。
• 集成一种虚拟响应增强（ViRA）方法，以模拟真实响应序列，提升在低资源场景下的训练效果。
• 采用原型范式（PV）对齐跨语言和跨领域的表示，增强零样本迁移性能。
• 利用带有可学习层选择机制的SynEncoder，平衡语言特征提取与语义泛化，在6层时达到最优性能。

实验结果

研究问题

• RQ1 基于提示的框架是否能在无任何标注训练数据的情况下，有效检测低资源语言和未见领域中的谣言？
• RQ2 传播结构特征（如响应顺序和社区影响）在零样本谣言检测性能中起到何种作用？
• RQ3 虚拟响应增强在低资源谣言检测场景中在多大程度上提升了模型泛化能力？
• RQ4 与标准提示微调相比，分层提示编码在跨语言和跨领域适应方面有何增强效果？
• RQ5 在零样本谣言检测模型中，语言特征提取与语义泛化之间应如何实现最优平衡？

主要发现

• RPL在三个真实世界谣言检测基准上达到最先进性能，包括阿拉伯语和粤语等低资源语言，在WEIBO数据集上宏F1达到0.664。
• 在CatAr-COVID19数据集上，仅需20个响应帖子即达到饱和的早期检测性能；在Twitter-COVID19数据集上，4小时内即实现高效检测，展现出强大的早期检测能力。
• 消融实验表明，移除分层提示编码（w/o HPE）导致性能显著下降（F1从0.617降至0.451），证实其在保留语义知识方面起着关键作用。
• 虚拟响应增强（ViRA）在输入长度受限和响应存在噪声的条件下提升了模型鲁棒性，各项消融设置中均表现出一致性能增益。
• 原型范式（PV）与响应位置建模（RPP）均不可或缺且具有互补性，任一组件被移除均导致性能显著下降。
• SynEncoder层选择分析显示，使用PLMs的前6层可实现最优性能，实现语言特征提取与语义泛化的最佳平衡。