[論文レビュー] VigDet: Knowledge Informed Neural Temporal Point Process for Coordination Detection on Social Media

Yizhou Zhang, Karishma Sharma+1 more|arXiv (Cornell University)|Oct 28, 2021

Domain Adaptation and Few-Shot Learning被引用数 10

ひとこと要約

VigDetは、変分推論を用いてアカウント埋め込みとグループ割り当てを同時に学習する、知識を組み込んだニューラル時系列ポイントプロセスモデルを提案する。時間的論理とフィルタ関数を介して事前知識を統合することで、教師なしおよび半教師あり設定の両方で最先端の手法を上回り、実世界のCOVID-19ワクチンツイートデータから反ワクチンキャンペーンの共謀を検出する。

ABSTRACT

Recent years have witnessed an increasing use of coordinated accounts on social media, operated by misinformation campaigns to influence public opinion and manipulate social outcomes. Consequently, there is an urgent need to develop an effective methodology for coordinated group detection to combat the misinformation on social media. However, existing works suffer from various drawbacks, such as, either limited performance due to extreme reliance on predefined signatures of coordination, or instead an inability to address the natural sparsity of account activities on social media with useful prior domain knowledge. Therefore, in this paper, we propose a coordination detection framework incorporating neural temporal point process with prior knowledge such as temporal logic or pre-defined filtering functions. Specifically, when modeling the observed data from social media with neural temporal point process, we jointly learn a Gibbs-like distribution of group assignment based on how consistent an assignment is to (1) the account embedding space and (2) the prior knowledge. To address the challenge that the distribution is hard to be efficiently computed and sampled from, we design a theoretically guaranteed variational inference approach to learn a mean-field approximation for it. Experimental results on a real-world dataset show the effectiveness of our proposed method compared to the SOTA model in both unsupervised and semi-supervised settings. We further apply our model on a COVID-19 Vaccine Tweets dataset. The detection result suggests the presence of suspicious coordinated efforts on spreading misinformation about COVID-19 vaccines.

研究の動機と目的

• ユーザー活動が疎らで表現学習の性能が限られる状況でも、共謀的なソーシャルメディアアカウントを検出する課題に対処すること。
• 時間的同期や共起パターンなどの事前知識を、深層学習フレームワークに統合し、共謀検出を向上させること。
• 学習された表現と事前知識の両方に整合性を持つように、ギブス分布を用いてアカウント埋め込みとグループ割り当てを同時に学習すること。
• ギブス分布の不確実なパーティション関数を平均場近似によって近似する理論的根拠を持つ変分推論手法を考案すること。
• IRAデータセットとCOVID-19ワクチンツイートデータセットを含む実世界のデータセットを用いて、共謀的誤情報キャンペーンの検出を評価すること。

提案手法

• モデルは、ソーシャルメディア上のイベント系列から動的アカウント埋め込みを学習するため、ニューラル時系列ポイントプロセスを用いる。
• 事前知識は、時間的論理とべき乗関数（例：共起、時間的同期）を用いて、共謀的行動のグラフとして符号化される。
• グループ割り当てのギブス分布が定義され、埋め込み空間と事前知識グラフの両方に整合性を測るスコアが潜在的スコアとして用いられる。
• ギブス分布における不確実なパーティション関数を扱うために、平均場近似を用いた変分推論フレームワークが採用される。
• EMアルゴリズムが用いられ、下界の期待値（ELBO）を最大化することで、変分近似とモデルパラメータを同時に最適化する。
• モデルはエンドツーエンドで学習可能であり、理論的保証のもとで、表現学習とグループ検出を同時に実行できる。

実験結果

リサーチクエスチョン

• RQ1 ユーザー活動が疎らな状況下でも、ニューラル時系列ポイントプロセスモデルが共謀的ソーシャルメディアアカウントを効果的に検出できるか？
• RQ2 集団的行動（例：共起、同期）に関する事前知識を、共謀検出のための深層学習フレームワークに効果的に統合する方法は何か？
• RQ3 平均場近似を用いた変分推論アプローチは、共謀検出における不確実なグループ割り当て分布に対して、取り扱い可能で理論的根拠を持つ解決策を提供できるか？
• RQ4 データのみに依存する深層学習ベースラインと比較して、事前知識の統合が検出性能を向上させるか？
• RQ5 地面真理ラベルが存在する状況（例：反ワクチンツイートキャンペーン）においても、モデルは実世界のデータセットから疑わしい共謀的行動を同定できるか？

主な発見

• IRAデータセットにおいて、VigDetは教師なしおよび半教師ありの共謀検出設定の両方で、最先端のモデルを上回った。
• COVID-19ワクチンツイートデータセットでは、検出された共謀グループが55.4％の信頼性の低いまたは陰謀論的ニュースソースを共有していたのに対し、通常のアカウントグループでは23.2％にとどまっていた。
• 検出された共謀グループでは、最近作成されたアカウントの割合が20.4％であったのに対し、通常のアカウントでは15.3％であったため、最近の悪意ある活動が示唆された。
• 検出されたグループの代表的ツイートを分析した結果、反ワクチンナラティブ、陰謀論、ワクチン効果性および安全性に関する誤情報の広がりが顕著に確認された。
• アブレーションスタディにより、ニューラルポイントプロセスと事前知識統合の両成分が性能向上に寄与していることが確認された。
• 強力な性能を発揮しているものの、正常アカウントを誤ってラベル付けするか、真の共謀グループを逃す可能性があるため、人間による検証の補助ツールとして使用すべきであり、決定的証拠としては用いるべきではない。