[論文レビュー] Counterfactual Neural Temporal Point Process for Estimating Causal Influence of Misinformation on Social Media

Yizhou Zhang, Defu Cao+1 more|arXiv (Cornell University)|Oct 14, 2022

Misinformation and Its Impacts被引用数 6

ひとこと要約

本稿では、神経ネットワークとガウス・ミックス・モデルを用いてイベントの発生時刻とコンテンツ特徴を分離することで、SNSにおける誤情報のユーザー行動への因果的影響を推定するための反事後的ニューラル時系列ポイント過程（C-NTPP）モデルを提案する。実世界のCOVID-19ワクチンデータセットを用いた評価において、誤情報がワクチンへのユーザーの感情を因果的に低下させることを特定し、ワクチン接種へのためらいの要因であることを裏付ける。

ABSTRACT

Recent years have witnessed the rise of misinformation campaigns that spread specific narratives on social media to manipulate public opinions on different areas, such as politics and healthcare. Consequently, an effective and efficient automatic methodology to estimate the influence of the misinformation on user beliefs and activities is needed. However, existing works on misinformation impact estimation either rely on small-scale psychological experiments or can only discover the correlation between user behaviour and misinformation. To address these issues, in this paper, we build up a causal framework that model the causal effect of misinformation from the perspective of temporal point process. To adapt the large-scale data, we design an efficient yet precise way to estimate the Individual Treatment Effect(ITE) via neural temporal point process and gaussian mixture models. Extensive experiments on synthetic dataset verify the effectiveness and efficiency of our model. We further apply our model on a real-world dataset of social media posts and engagements about COVID-19 vaccines. The experimental results indicate that our model recognized identifiable causal effect of misinformation that hurts people's subjective emotions toward the vaccines.

研究の動機と目的

• SNSにおける誤情報の影響を相関ベースの手法を超えて因果推定する手法の不足に応えること。
• 連続的特徴を有する時系列ポイント過程を用いて、誤情報の関与がユーザー行動に与える因果的効果をモデル化すること。
• 大規模なSNSデータにおいて、個別治療効果（ITE）を効率的かつ正確に、かつバイアスのない方法で推定する手法を開発すること。
• 情報ココンからのバイアスを軽減するため、ニューラルポイント過程フレームワーク内で敵対的訓練を適用すること。
• プラットフォームや研究者にとって、高影響度の誤情報を特定し、対策を改善するためのデータ駆動型ツールを提供すること。

提案手法

• 誤情報の関与を処置とし、ユーザーのオリジナル投稿の将来の条件付き強度関数を結果とする因果構造を形式化すること。
• 強度関数の変化を物理的意味を持つ解釈可能なベクトル表現にマッピングする関数を設計すること。
• 閉形式の期待値推定が可能なように、時系列ポイント過程（TPP）でモデル化されたイベント時刻と、ガウス・ミックス・モデル（GMM）でモデル化された投稿特徴を分離するニューラル時系列ポイント過程モデルを開発すること。
• 時変処置とユーザーの共変量・履歴の相関を解消するために、敵対的訓練を用いることで、情報ココンに起因するバイアスを低減すること。
• エンコーダーと処置予測子をミニマックスゲームで最適化し、隠れたデータバイアスを最小化するバランスの取れた解を得ること。
• 各リツイートイベントの反事後的推論を適用し、感情および主観性への因果的影響分析を可能にするITE推定を行うこと。

実験結果

リサーチクエスチョン

• RQ1 相関関係を超えて、大規模SNSにおいて誤情報がユーザー行動に与える因果的効果を推定することは可能か？
• RQ2 連続的特徴を有する時系列ポイント過程を用いて、誤情報がユーザーの将来の投稿行動に与える因果的影響をどのようにモデル化できるか？
• RQ3 誤情報は、SNS上でのワクチンに対するユーザーの感情および主観性にどの程度因果的に影響を与えるか？
• RQ4 敵対的訓練は、因果推定のためのニューラルポイント過程モデルにおける情報ココン由来のバイアスを効果的に低減できるか？
• RQ5 本モデルの因果推定は、さまざまな種類の誤情報およびSNSのトピックにわたり、信頼性があり汎用性があるか？

主な発見

• 本モデルは、誤情報がCOVID-19ワクチンに対するユーザーの感情を因果的に低下させることを明確に特定した。フェイクニュースは一貫して感情スコアを低下させる。
• 誤情報はユーザーの主観性スコアに顕著な変化をもたらさないが、感情をより否定的な態度へとシフトさせる。
• 本物のニュースは、ワクチンに対するユーザーの感情を高める傾向があり、公共の認識に肯定的影響を与えることが示唆された。
• 合成データ上でも本モデルのITE推定は頑健であり、因果推定において高い効果性と効率性を示した。
• 実世界のTwitterデータ上でも、誤情報の因果的効果が明確に検出された。これは、誤情報がワクチン接種へのためらいの役割を果たしていることを裏付ける。
• 本モデルの予測は、有害なナラティブに最も影響を受けるユーザーを特定することで、標的型の誤情報対策を支援できる。