[論文レビュー] Fake News Detection Through Graph-based Neural Networks: A Survey

Shuzhi Gong, Richard Sinnott+2 more|arXiv (Cornell University)|Jul 24, 2023

Misinformation and Its ImpactsSocial Sciences被引用数 3

ひとこと要約

本調査は、フェイクニュース検出のためのグラフベースのニューラルネットワーク手法について包括的なレビューを提供し、知識駆動型、伝播ベース型、異種の社会的文脈ベース型のアプローチに分類している。グラフモデリングがニュースエンティティ間および伝播構造における複雑な非ユークリッド的関係を捉える有効性を強調するとともに、スケーラビリティ、データ品質、および敵対的耐性に関する主な課題を特定している。

ABSTRACT

The popularity of online social networks has enabled rapid dissemination of information. People now can share and consume information much more rapidly than ever before. However, low-quality and/or accidentally/deliberately fake information can also spread rapidly. This can lead to considerable and negative impacts on society. Identifying, labelling and debunking online misinformation as early as possible has become an increasingly urgent problem. Many methods have been proposed to detect fake news including many deep learning and graph-based approaches. In recent years, graph-based methods have yielded strong results, as they can closely model the social context and propagation process of online news. In this paper, we present a systematic review of fake news detection studies based on graph-based and deep learning-based techniques. We classify existing graph-based methods into knowledge-driven methods, propagation-based methods, and heterogeneous social context-based methods, depending on how a graph structure is constructed to model news related information flows. We further discuss the challenges and open problems in graph-based fake news detection and identify future research directions.

研究の動機と目的

• Twitter や Reddit などのソーシャルメディアプラットフォームで急速に広がるフェイクニュースが社会に与える影響の増大に対処するため。
• 既存の調査で不足しているグラフベースの深層学習手法について、細分化された体系的レビューを提供するため。
• 既存のグラフベースのアプローチを、知識駆動型、伝播ベース型、異種の社会的文脈ベース型の3つのカテゴリに分類・分析するため。
• スケーラビリティ、データ品質、敵対的耐性といった、グラフベースのフェイクニュース検出システムにおける主な課題を特定するため。
• 今後の研究を導くために、グラフモデリングにおける外部文脈や時間的ダイナミクスの統合といった有望な方向性を提示するため。

提案手法

• グラフ構築の観点から、フェイクニュース検出のグラフベース手法を3種類に分類する：知識駆動型（ニュースコンテンツからのエンティティを使用）、伝播ベース型（リツイートや返信などのユーザ相互作用をモデル化）、異種の社会的文脈ベース型（複数のソースからのユーザおよびトピックレベルの文脈を統合）。
• GCN や BiGCN を含むグラフニューラルネットワーク（GNN）を用いて、グラフ構造データを符号化し、分類のためのノードレベルの埋め込みを生成する。
• Wikipedia などの外部ソースから構築された知識グラフを活用して、事実の整合性およびエンティティ間の関係を強化する。
• ユーザの相互作用（例：リポスト、コメント）を用いて、ニュースの伝播を木構造やグラフ構造としてモデル化し、伝播パターンとユーザの信頼性に基づいて真偽を推定する。
• 関連するニュースサンプル間の関係を活用するトランスダクティブ学習技術を採用し、文脈クラスタリングを通じて分類性能を向上させる。
• 時間的および外部文脈を統合するため、ターゲットニュースの公開時期に近い時期に発表された信頼できる出典（例：NPR、Huffington Post）からの確認済みニュースを取得して比較する。

実験結果

リサーチクエスチョン

• RQ1 知識駆動型グラフベース手法は、内部および外部の知識をどのように活用してフェイクニュース検出を向上させているか？
• RQ2 伝播ベース型手法は、ユーザの相互作用パターンをどの程度活用してニュース記事の真偽を推定しているか？
• RQ3 現在の異種の社会的文脈ベース型手法は、広範かつ動的な社会的および時間的文脈を捉える点で、どのような制限を抱えているか？
• RQ4 実世界の環境において、グラフベースのモデルは非グラフベースまたはハイブリッドアプローチと比較して、性能およびスケーラビリティでどの程度優れているか？
• RQ5 特にデータ品質、計算コスト、敵対的耐性の観点から、グラフベースのフェイクニュース検出システムを大規模に展開するにあたり、主な課題は何か？

主な発見

• グラフベースの手法は、エンティティ間および伝播構造における複雑な非ユークリッド的関係をモデル化することで、従来のコンテンツ中心のアプローチを著しく上回る性能を発揮する。
• Wikipedia などの外部ソースからの知識統合を実施する知識駆動型手法は、事実の検証と曖昧な点の解消により、検出精度を向上させる。
• BiGCN などの伝播ベース型モデルは、ニュース共有の構造的パターンを分析することで優れた性能を示し、特にユーザ信頼性特徴と組み合わせると顕著な効果を発揮する。
• 異種の社会的文脈ベース型手法は有望ではあるが、範囲が限定されており、広範な世論やリアルタイムの外部文脈を十分に統合できないという課題を抱えている。
• 現在のデータセットはしばしば古くなり、特に出現しつつあるAI生成コンテンツを考慮していないため、モデルの一般化能力および長期的信頼性に悪影響を及ぼしている。
• 敵対的攻撃やモデル回避はまだ十分に調査されておらず、敵対的訓練や伝播エッジ強化による耐性向上の研究はごく少数にとどまっている。