[論文レビュー] GCAN: Graph-aware Co-Attention Networks for Explainable Fake News Detection on Social Media

Yi-Ju Lu, Cheng–Te Li|arXiv (Cornell University)|Apr 24, 2020

Misinformation and Its Impacts参考文献 31被引用数 6

ひとこと要約

本稿では、コメントやネットワーク構造が利用不可な短いソーシャルメディアのツイートにおいて、元のツイート本文とリツイートユーザーのシーケンスのみを用いてフェイクニュースを検出する、グラフに配慮した共同注意ネットワーク（GCAN）を提案する。グラフ畳み込みを用いてユーザーの相互作用をモデル化し、二重の共同注意機構により不審なユーザーと重要なキーワードを強調することで、最先端の手法よりも16%高い正確性を達成するとともに、予測の解釈可能性を提供する。

ABSTRACT

This paper solves the fake news detection problem under a more realistic scenario on social media. Given the source short-text tweet and the corresponding sequence of retweet users without text comments, we aim at predicting whether the source tweet is fake or not, and generating explanation by highlighting the evidences on suspicious retweeters and the words they concern. We develop a novel neural network-based model, Graph-aware Co-Attention Networks (GCAN), to achieve the goal. Extensive experiments conducted on real tweet datasets exhibit that GCAN can significantly outperform state-of-the-art methods by 16% in accuracy on average. In addition, the case studies also show that GCAN can produce reasonable explanations.

研究の動機と目的

• 元のツイートが短く、コメントが存在せず、ネットワーク構造が入手不可であるような現実的なソーシャルメディア環境におけるフェイクニュース検出の課題に対処すること。
• 不審なリツイーターと注目を引くキーワードを特定することで、正確なフェイクニュース検出と意味のある説明が可能なモデルの開発。
• 現実のソーシャルメディアにおいて短いテキストのデータスパarsityとコメントの欠如を補うために、ユーザープロフィール特徴と拡散パターンを活用すること。
• 初期のリツイーターとその行動的特徴を分析することで、フェイクニュースの早期検出を可能にすること。

提案手法

• GCANは、ユーザープロフィールとリツイートシーケンスからユーザー相互作用グラフを構築し、グラフ畳み込みニューラルネットワークを用いてグラフに配慮した表現を学習する。
• 畳み込みニューラルネットワークと再帰的ニューラルネットワークを用いて、ユーザーフィーチャーと相互作用シーケンスに基づくリツイート拡散パターンを符号化する。
• ソースツイートとリツイート拡散の相関関係、およびツイートとユーザー相互作用の共通影響を捉えるために、二重の共同注意機構を設計する。
• ソースツイートからの単語埋め込みを用い、共同注意を通じてユーザーレプレゼンテーションと統合し、文脈に配慮した説明可能な予測を生成する。
• ソース-拡散共同注意層からの注目度重みを可視化し、ツイート内のキーワードとリツイートチェーン内の不審なユーザーを強調する。
• 共同注意とグラフに配慮したコンポonentからの統合表現に基づき、バイナリ分類器を用いて最終的な予測を行う。

実験結果

リサーチクエスチョン

• RQ1 コメントが存在せずネットワーク構造が入手不可な状況下でも、短いソーシャルメディアのツイートにおけるフェイクニュース検出が可能なモデルは存在するか？
• RQ2 現実のソーシャルメディア制約下で、リツイート拡散とユーザー相互作用の表現を効果的に学習する方法は何か？
• RQ3 二重の共同注意機構により、フェイクニュースにおける不審なユーザーとキーワードを特定することで、解釈可能な説明を提供できるか？
• RQ4 グラフに配慮したユーザー相互作用モデリングを組み込むことで、ベースライン手法に比べて検出正確性が向上するか？
• RQ5 初期のリツイーターに注目することで、フェイクニュースの早期検出が可能になるか？

主な発見

• GCANは、実際のツイートデータセットにおいて、最先端の手法よりも平均16%高い正確性を達成し、優れた検出性能を示した。
• アブレーションスタディの結果、グラフに配慮したコンポonentと二重の共同注意機構が性能向上に顕著に寄与しており、特にソースツイートが欠落した場合に正確性が最も著しく低下した。
• モデルは、フェイクニュースにおいて「ブレイキング」や「ストリクト」のような劇的・センセーショナルな語を的確に強調しており、誤情報の既知の言語的兆候と整合した。
• GCANは、非検証アカウント、短いユーザープロフィール記述長、およびソースユーザーへの経路長が短いなどの要因に基づき、不審なリツイーターを特定し、解釈可能な行動的指標を提供した。
• 注目度の可視化により、初期の拡散段階におけるリツイーターがフェイクニュース検出において極めて重要であることが明らかになった。注目度重みは初期の拡散ステップに集中していた。
• ケーススタディの結果、モデルの説明は妥当であり、低信頼性のユーザーによる急速な拡散といった、フェイクニュースの広がり方の既知のパターンと一致した。