[论文解读] HGAT: Hierarchical Graph Attention Network for Fake News Detection.

Yuxiang Ren, Jiawei Zhang|arXiv (Cornell University)|Feb 5, 2020

Misinformation and Its Impacts参考文献 25被引用 15

一句话总结

该论文提出HGAT，一种用于虚假新闻检测的分层图注意力网络，将新闻、创作者和主题建模为异质信息网络（HIN）。通过应用节点级和模式级注意力机制，HGAT能够捕捉多类型关系信息，并在真实世界数据上优于基于文本和基于网络的基线模型，展现出在HIN表征学习中卓越的性能与可扩展性。

ABSTRACT

The explosive growth of fake news has eroded the credibility of medias and governments. Fake news detection has become an urgent task. News articles along with other related components like news creators and news subjects can be modeled as a heterogeneous information network (HIN for short). In this paper, we focus on studying the HIN- based fake news detection problem. We propose a novel fake news detection framework, namely Hierarchical Graph Attention Network (HGAT) which employs a novel hierarchical attention mechanism to detect fake news by classifying news article nodes in the HIN. This method can effectively learn information from different types of related nodes through node-level and schema-level attention. Experiments with real-world fake news data show that our model can outperform text-based models and other network-based models. Besides, the experiments also demonstrate the expandability and potential of HGAT for heterogeneous graphs representation learning in the future.

研究动机与目标

• 为应对由于错误信息快速传播而带来的虚假新闻检测的迫切需求。
• 将新闻检测问题建模为包含新闻文章、创作者和主题的异质信息网络（HIN）中的问题。
• 开发一种新颖的注意力机制，以捕捉HIN中节点级与模式级的关系。
• 在性能上超越仅基于文本和标准图神经网络的模型，提升虚假新闻检测效果。
• 展示HGAT在更广泛的异质图表征学习中的可扩展性与潜力。

提出的方法

• HGAT构建了一个异质信息网络（HIN），其中新闻文章、创作者和主题作为不同类型的节点，通过关系类型相互连接。
• 该模型采用分层注意力机制，分别在节点级别（在节点的邻居之间）和模式级别（在不同关系类型之间）应用注意力。
• 节点级注意力在同类型或不同类型邻居节点之间计算注意力权重，以聚合信息性特征。
• 模式级注意力学习不同关系类型（模式）的重要性权重，以优先考虑HIN中更相关的路径。
• 通过结合两种注意力机制聚合特征，获得新闻文章节点的最终表征，实现上下文感知的分类。
• 模型通过二元虚假新闻分类的交叉熵损失进行端到端训练。

实验结果

研究问题

• RQ1 分层注意力机制是否能有效捕捉虚假新闻检测任务中异质关系信息？
• RQ2 与仅基于文本的模型和标准图神经网络相比，HGAT在虚假新闻检测中的表现如何？
• RQ3 HGAT在HIN中多大程度上能够利用节点级与模式级注意力实现更优的表征学习？
• RQ4 HGAT是否能在未见新闻数据上良好泛化，并扩展到更大的异质网络？
• RQ5 不同关系类型（模式）对最终虚假新闻预测的贡献如何？

主要发现

• HGAT在虚假新闻检测中优于基于文本的模型，证明了在原始文本之外引入结构与关系信息的价值。
• 与其它基于网络的模型相比，HGAT表现出更优的性能，表明其分层注意力机制的有效性。
• 该模型展现出强大的泛化能力与可扩展性，表明其在异质图表征学习中具有广泛的应用潜力。
• 实验结果证实，节点级与模式级注意力均对模型性能有显著贡献，其中模式级注意力有助于识别关键的关系模式。
• 消融研究验证了两种注意力机制的必要性，因为移除任一机制均导致性能下降。