[论文解读] GAMC: An Unsupervised Method for Fake News Detection using Graph Autoencoder with Masking

Shu Yin, Chao Gao+1 more|arXiv (Cornell University)|Dec 10, 2023

Misinformation and Its Impacts被引用 4

一句话总结

GAMC 提出了一种使用掩码和对比学习的图自编码器的无监督假新闻检测方法，通过数据增强（节点掩码和边丢弃）产生的自监督信号，消除了对标注数据的依赖。该方法在 PolitiFact（准确率 82.8%，F1 82.3%）和 GossipCop（准确率 94.1%，F1 93.7%）上实现了最先进性能，证明了其在无需人工标注情况下的鲁棒性。

ABSTRACT

With the rise of social media, the spread of fake news has become a significant concern, potentially misleading public perceptions and impacting social stability. Although deep learning methods like CNNs, RNNs, and Transformer-based models like BERT have enhanced fake news detection, they primarily focus on content, overlooking social context during news propagation. Graph-based techniques have incorporated this social context but are limited by the need for large labeled datasets. Addressing these challenges, this paper introduces GAMC, an unsupervised fake news detection technique using the Graph Autoencoder with Masking and Contrastive learning. By leveraging both the context and content of news propagation as self-supervised signals, our method negates the requirement for labeled datasets. We augment the original news propagation graph, encode these with a graph encoder, and employ a graph decoder for reconstruction. A unique composite loss function, including reconstruction error and contrast loss, is designed. The method's contributions are: introducing self-supervised learning to fake news detection, proposing a graph autoencoder integrating two distinct losses, and validating our approach's efficacy through real-world dataset experiments.

研究动机与目标

• 为解决社交媒体中假新闻检测面临的挑战，无需依赖昂贵且耗时的标注数据集。
• 通过将新闻建模为图结构，将社交上下文和传播动态整合到假新闻检测中。
• 开发一种自监督学习框架，利用新闻传播图的内容和结构特征。
• 通过使用数据增强作为自监督信号，消除对人工标注的需求。
• 通过组合重构损失和对比学习的复合损失函数，提升检测性能。

提出的方法

• 该方法通过随机节点特征掩码和边丢弃对原始新闻传播图进行数据增强，生成两个增强视图。
• 图编码器处理增强后的图，生成捕捉全局结构和传播动态的图级表示向量。
• 图解码器从表示向量中重构原始图，通过最小化重构误差来保留结构和语义模式。
• 复合损失函数结合了重构损失（原始图与重构图之间的L2距离）和对比损失（最小化同一图的增强视图表示之间的距离）。
• 模型通过复合损失端到端训练，实现在无标签情况下的自监督表示学习。
• 训练完成后，直接使用最终的图级表示向量进行假新闻分类。

实验结果

研究问题

• RQ1 自监督学习能否在无需标注数据的情况下有效替代假新闻检测中的监督信号？
• RQ2 同时整合内容和传播上下文是否能提升假新闻检测性能，超越仅基于文本的模型？
• RQ3 数据增强（掩码和边丢弃）对模型学习鲁棒表示能力有何影响？
• RQ4 重构损失和对比损失如何协同作用以提升检测性能？
• RQ5 与监督基线方法相比，结合掩码和对比学习的图自编码器能否在真实世界数据集上取得具有竞争力的结果？

主要发现

• 在 PolitiFact 数据集上，GAMC 达到了 82.8% 的准确率和 82.3% 的 F1，优于所有对比的监督方法，包括 BiGCN 和 GACL。
• 在 GossipCop 数据集上，GAMC 达到了 94.1% 的准确率和 93.7% 的 F1，显著优于次佳方法 GACL（准确率高出 3.4 个百分点）。
• 消融研究证实，若移除数据增强（GAMC-Aug），PolitiFact 上的准确率降至 79.3%，证明其在表示学习中的关键作用。
• 若移除重构损失（GAMC-Lrec），PolitiFact 上的 F1 降至 75.8%，表明其在保持结构保真度方面的重要性。
• 对比损失组件至关重要，因为仅使用一个增强视图会降低性能，表明对比学习增强了判别能力。
• 最优超参数位于掩码率为 0.5 和边丢弃率为 0.2 时，此时模型在两个数据集上的性能均达到峰值。