[論文レビュー] HGAT: Hierarchical Graph Attention Network for Fake News Detection.

Yuxiang Ren, Jiawei Zhang|arXiv (Cornell University)|Feb 5, 2020

Misinformation and Its Impacts参考文献 25被引用数 15

ひとこと要約

本稿では、ニュース、作成者、トピックを異種情報ネットワーク（HIN）としてモデル化する階層的グラフ自己注意ネットワーク（HGAT）を提案する。ノードレベルおよびスキーマレベルの自己注意メカニズムを適用することで、多様な関係的情報を捉え、実世界のデータにおいてテキストベースおよびネットワークベースのベースラインを上回る性能を示し、HIN表現学習における優れた性能とスケーラビリティを実証する。

ABSTRACT

The explosive growth of fake news has eroded the credibility of medias and governments. Fake news detection has become an urgent task. News articles along with other related components like news creators and news subjects can be modeled as a heterogeneous information network (HIN for short). In this paper, we focus on studying the HIN- based fake news detection problem. We propose a novel fake news detection framework, namely Hierarchical Graph Attention Network (HGAT) which employs a novel hierarchical attention mechanism to detect fake news by classifying news article nodes in the HIN. This method can effectively learn information from different types of related nodes through node-level and schema-level attention. Experiments with real-world fake news data show that our model can outperform text-based models and other network-based models. Besides, the experiments also demonstrate the expandability and potential of HGAT for heterogeneous graphs representation learning in the future.

研究の動機と目的

• 誤情報の急速な拡散に伴う、効果的なフェイクニュース検出の緊急的な必要性に対処すること。
• ニュース記事、作成者、トピックを含む異種情報ネットワーク（HIN）としてニュース検出問題をモデル化すること。
• HINにおけるノードレベルおよびスキーマレベルの関係を捉える、新たな自己注意メカニズムの開発。
• テキストのみのモデルおよび標準的なグラフベースのモデルを上回るフェイクニュース検出性能の向上。
• HGATの拡張性および異種グラフ表現学習への応用可能性を示すこと。

提案手法

• HGATは、ニュース記事、作成者、トピックを異なるノードタイプとして表現し、関係タイプで接続された異種情報ネットワーク（HIN）を構築する。
• モデルは、ノードレベル（ノードの近隣ノード内）およびスキーマレベル（異なる関係タイプ間）に注目する階層的自己注意メカニズムを採用する。
• ノードレベルの自己注意は、同じまたは異なるタイプの近隣ノードに対して注目重みを計算し、情報を含む特徴を集約する。
• スキーマレベルの自己注意は、異なる関係タイプ（スキーマ）の重要度重みを学習し、HIN内でのより関連性の高い関係的パスを優先する。
• 最終的なニュース記事ノードの表現は、両方の自己注意メカニズムを通じて特徴を集約することで得られ、文脈に配慮した分類が可能になる。
• モデルは、二値フェイクニュース分類のための交差エントロピー損失を用いてエンドツーエンドで学習される。

実験結果

リサーチクエスチョン

• RQ1 階層的自己注意メカニズムは、フェイクニュース検出タスクにおける異種関係的情報を効果的に捉えることができるか？
• RQ2 HGATは、テキストのみのモデルおよび標準的なグラフニューラルネットワークと比較して、フェイクニュース検出でどのように性能を発揮するか？
• RQ3 HGATは、HINにおけるより良い表現学習を実現するために、ノードレベルおよびスキーマレベルの両方の自己注意をどの程度活用できるか？
• RQ4 HGATは、未観測のニュースデータに一般化できるか、より大きな異種ネットワークにスケーリングできるか？
• RQ5 異なる関係タイプ（スキーマ）は、最終的なフェイクニュース予測にどの程度寄与しているか？

主な発見

• HGATは、テキストのみのモデルを上回り、生テキストを超える構造的・関係的情報の統合の価値を示している。
• 他のネットワークベースのモデルと比較して、HGATは優れた性能を達成しており、その階層的自己注意メカニズムの有効性が裏付けられている。
• モデルは優れた一般化性能とスケーラビリティを示しており、異種グラフ表現学習への広範な応用の可能性を示唆している。
• 実験により、ノードレベルおよびスキーマレベルの両方の自己注意がモデルの性能に顕著に寄与していることが確認され、特にスキーマレベルの自己注意が重要な関係的パターンを特定するのに役立っている。
• アブレーションスタディにより、両方の自己注意メカニズムの必要性が検証されており、いずれかを削除すると性能が低下することが示された。