[论文解读] Counterfactual Neural Temporal Point Process for Estimating Causal Influence of Misinformation on Social Media

Yizhou Zhang, Defu Cao+1 more|arXiv (Cornell University)|Oct 14, 2022

Misinformation and Its Impacts被引用 6

一句话总结

本文提出了一种反事实神经时间点过程（C-NTPP）模型，用于估计社交媒体中虚假信息对用户行为的因果影响，采用神经网络与高斯混合模型分离事件时间与内容特征。在真实世界的新冠疫苗数据集上评估，该模型识别出虚假信息会因果性地降低用户对疫苗的积极情绪，支持其在疫苗犹豫中的作用。

ABSTRACT

Recent years have witnessed the rise of misinformation campaigns that spread specific narratives on social media to manipulate public opinions on different areas, such as politics and healthcare. Consequently, an effective and efficient automatic methodology to estimate the influence of the misinformation on user beliefs and activities is needed. However, existing works on misinformation impact estimation either rely on small-scale psychological experiments or can only discover the correlation between user behaviour and misinformation. To address these issues, in this paper, we build up a causal framework that model the causal effect of misinformation from the perspective of temporal point process. To adapt the large-scale data, we design an efficient yet precise way to estimate the Individual Treatment Effect(ITE) via neural temporal point process and gaussian mixture models. Extensive experiments on synthetic dataset verify the effectiveness and efficiency of our model. We further apply our model on a real-world dataset of social media posts and engagements about COVID-19 vaccines. The experimental results indicate that our model recognized identifiable causal effect of misinformation that hurts people's subjective emotions toward the vaccines.

研究动机与目标

• 为解决社交媒体中虚假信息影响缺乏因果估计方法的问题，特别是超越基于相关性的方法。
• 使用带有连续特征的时间点过程建模虚假信息参与对用户行为的因果效应。
• 开发一种高效、精确且无偏的个体处理效应（ITE）估计方法，适用于大规模社交媒体数据。
• 通过在神经点过程框架中引入对抗性训练，减轻信息茧房等数据偏差。
• 为平台和研究人员提供一种数据驱动工具，以识别高影响力的虚假信息并改进缓解策略。

提出的方法

• 形式化因果结构，将虚假信息参与作为处理因素，用户未来原始帖子的条件强度函数作为结果。
• 设计一种函数，将强度函数的变化映射为具有物理意义的可解释向量表示。
• 开发一种神经时间点过程模型，通过时间点过程（TPP）建模事件时间戳，通过高斯混合模型（GMM）建模帖子特征，实现期望的闭式估计。
• 使用对抗性训练将时变处理与用户协变量及历史记录去相关，降低信息茧房带来的偏差。
• 通过最小-最大博弈优化编码器与处理预测器，实现平衡解，最小化隐藏数据偏差。
• 应用反事实推理估计每次转发事件的个体处理效应（ITE），实现对情绪与主观性的因果影响分析。

实验结果

研究问题

• RQ1 我们能否在大规模社交媒体中超越相关性，估计虚假信息对用户行为的因果效应？
• RQ2 如何利用带有连续特征的时间点过程建模虚假信息对用户未来发帖行为的因果影响？
• RQ3 虚假信息在多大程度上因果性地影响用户在社交媒体上对疫苗的情绪与主观性？
• RQ4 对抗性训练能否有效减少神经点过程模型中因信息茧房导致的偏差？
• RQ5 该模型的因果估计在不同类型的虚假信息与社交媒体话题上是否具有可靠性和泛化能力？

主要发现

• 该模型成功识别出虚假信息对降低用户对新冠疫苗情绪的因果效应，虚假新闻始终导致情绪得分下降。
• 虚假信息并未显著改变用户主观性得分，但使其情绪倾向更趋于负面。
• 真实新闻倾向于提升用户对疫苗的积极情绪，表明其对公众认知具有正面影响。
• 在合成数据上，该模型的ITE估计具有鲁棒性，展示了在因果推断中高度的有效性与效率。
• 在真实世界Twitter数据上，该模型检测到虚假信息的可识别因果效应，支持其在疫苗犹豫中的作用。
• 该模型的预测可指导针对性的虚假信息缓解策略，识别出最受有害叙事影响的用户。