[論文レビュー] Jointly embedding the local and global relations of heterogeneous graph for rumor detection

Chunyuan Yuan, Qianwen Ma+3 more|arXiv (Cornell University)|Sep 10, 2019

Misinformation and Its Impacts参考文献 33被引用数 8

ひとこと要約

本稿では、リツイートの多頭注意によるローカルな意味的関係と、ユーザー、ツイート、リツイートからなる非均質的グラフによるグローバルな構造的関係を同時にモデル化する、新しいグラフニューラルネットワークであるGLANを提案する。GLANは最先端のモデルを著しく上回り、Weiboデータセットでは94%、Twitterデータセットでは4時間以内の拡散で88–90%の精度を達成し、優れた早期検出性能を示している。

ABSTRACT

The development of social media has revolutionized the way people communicate, share information and make decisions, but it also provides an ideal platform for publishing and spreading rumors. Existing rumor detection methods focus on finding clues from text content, user profiles, and propagation patterns. However, the local semantic relation and global structural information in the message propagation graph have not been well utilized by previous works. In this paper, we present a novel global-local attention network (GLAN) for rumor detection, which jointly encodes the local semantic and global structural information. We first generate a better integrated representation for each source tweet by fusing the semantic information of related retweets with the attention mechanism. Then, we model the global relationships among all source tweets, retweets, and users as a heterogeneous graph to capture the rich structural information for rumor detection. We conduct experiments on three real-world datasets, and the results demonstrate that GLAN significantly outperforms the state-of-the-art models in both rumor detection and early detection scenarios.

研究の動機と目的

• ソーシャルメディアの拡散において、ローカルな意味的文脈とグローバルな構造的パターンを同時に活用できない既存のリムール検出手法の限界を解消すること。
• ソースツイート、リツイート、ユーザー間の潜在的関係を統合的グラフ表現によって捉えることで、早期リムール検出を向上させること。
• テキストとネットワーク構造からエンド・トゥ・エンドの表現を学習することで、手作業による特徴量依存を軽減すること。
• リツイート上の注目メカニズムによるローカルな文脈的情報と、非均質的グラフ注意メカニズムによるグローバルなグラフ構造を同時にモデル化すること。
• 限られた拡散データでのリアルタイムリムール検出シナリオにおける頑健性と性能を向上させること。

提案手法

• ソースツイート、リツイート、ユーザー、およびそれらの相互作用（例：リツイート、共有可能参加）をノードとし、関係をノード間のエッジとして統合した非均質的グラフを構築する。
• ソースツイートと関連するリツイートからの意味的特徴を融合するため、多頭注意を適用し、強化されたローカル表現を生成する。
• 非均質的グラフ内の全ノードにおける構造的依存関係を符号化するため、グローバルなグラフ注意メカニズムを用いることで、長距離相関を捉える。
• 実世界のソーシャルメディアデータにおける二値リムール分類のため、交差エントロピー損失を用いてモデルをエンド・トゥ・エンドで訓練する。
• ツイートテキストからの多様なn-gram特徴を捉えるために、畳み込み層に複数のカーネルサイズ（3, 4, 5）を統合する。
• 特にツイート長とカーネルサイズのハイパーパramータ感受性を評価するため、制御変数法を採用する。

実験結果

リサーチクエスチョン

• RQ1 リツイートからのローカルな意味的文脈と、非均質的グラフからのグローバルな構造的パターンを同時にモデル化することで、リムール検出性能が向上するか？
• RQ2 リツイートに多頭注意を統合することで、ソースツイートのローカル表現学習がどのように向上するか？
• RQ3 全拡散グラフを非均質的ネットワークとしてモデル化することで、早期検出精度はどの程度向上するか？
• RQ4 限られた拡散時間とノイズの多いデータにおいて、提案手法はどの程度頑健であるか？
• RQ5 カーネルサイズやツイート長といったハイパーパramータの最適な設定は何か、最大の検出性能を発揮するには？

主な発見

• GLANは、Weiboデータセットで94%、Twitter15およびTwitter16データセットで4時間以内の拡散で88–90%の精度を達成し、すべてのベースラインを上回っている。
• 時間遅延が12時間まであっても、依然として高い性能を維持しており、時間の経過に伴うデータノイズや構造的複雑性に対して頑健であることが示された。
• 複数のカーネルサイズ（3, 4, 5）を用いることで最良の性能が得られ、多様な受容場所がより判別力のある語句を捉えられることを示している。
• ツイート長が一定の点まで増加するにつれて性能が向上し、適切なテキスト的文脈が正確な分類に不可欠であることが確認された。
• 4時間遅延のモデルが、すべての利用可能なデータを用いたツリーに基づくベースラインを上回ったことから、優れた早期検出能力が裏付けられた。
• ローカルな注目メカニズムとグローバルなグラフ注目メカニズムの統合により、顕著な性能向上が達成されたことから、統合的モデリングの有効性が検証された。