[论文解读] VigDet: Knowledge Informed Neural Temporal Point Process for Coordination Detection on Social Media

Yizhou Zhang, Karishma Sharma+1 more|arXiv (Cornell University)|Oct 28, 2021

Domain Adaptation and Few-Shot Learning被引用 10

一句话总结

VigDet 提出了一种基于知识的神经时间点过程模型，通过变分推断联合学习账户嵌入和群体分配，以检测协调一致的社会媒体账户。通过利用时间逻辑和过滤函数整合先验知识，该方法在无监督和半监督设置下均优于最先进方法，在真实世界的新冠疫苗推文数据中识别出可疑的反疫苗协调行为。

ABSTRACT

Recent years have witnessed an increasing use of coordinated accounts on social media, operated by misinformation campaigns to influence public opinion and manipulate social outcomes. Consequently, there is an urgent need to develop an effective methodology for coordinated group detection to combat the misinformation on social media. However, existing works suffer from various drawbacks, such as, either limited performance due to extreme reliance on predefined signatures of coordination, or instead an inability to address the natural sparsity of account activities on social media with useful prior domain knowledge. Therefore, in this paper, we propose a coordination detection framework incorporating neural temporal point process with prior knowledge such as temporal logic or pre-defined filtering functions. Specifically, when modeling the observed data from social media with neural temporal point process, we jointly learn a Gibbs-like distribution of group assignment based on how consistent an assignment is to (1) the account embedding space and (2) the prior knowledge. To address the challenge that the distribution is hard to be efficiently computed and sampled from, we design a theoretically guaranteed variational inference approach to learn a mean-field approximation for it. Experimental results on a real-world dataset show the effectiveness of our proposed method compared to the SOTA model in both unsupervised and semi-supervised settings. We further apply our model on a COVID-19 Vaccine Tweets dataset. The detection result suggests the presence of suspicious coordinated efforts on spreading misinformation about COVID-19 vaccines.

研究动机与目标

• 为解决在用户活动稀疏且表征学习性能有限的情况下检测协调一致社会媒体账户的挑战。
• 将先验知识（如时间同步和共现模式）整合到深度学习框架中，以提升协调检测性能。
• 通过吉布斯分布联合学习账户嵌入和群体分配，平衡与学习表征及先验知识的一致性。
• 开发一种理论基础坚实的变分推断方法，通过均值场近似逼近难以计算的群体分配分布。
• 在真实世界数据集（包括IRA数据集和新冠疫苗推文数据集）上评估模型，以检测协调一致的虚假信息传播活动。

提出的方法

• 该模型使用神经时间点过程，从社交媒体事件序列中学习动态账户嵌入。
• 先验知识通过时间逻辑和幂函数（如共现和时间同步）编码为协调行为图。
• 定义群体分配上的吉布斯分布，其势函数分数用于衡量与嵌入空间及先验知识图的一致性。
• 采用具有均值场近似的变分推断框架，以处理吉布斯分布中难以计算的归一化常数。
• 使用EM算法通过最大化证据下界（ELBO）联合优化变分近似和模型参数。
• 该方法端到端训练，实现具有理论保证的联合表征学习与群体检测。

实验结果

研究问题

• RQ1 当用户活动稀疏时，神经时间点过程模型能否有效检测协调一致的社会媒体账户？
• RQ2 如何在深度学习框架中有效整合关于集体行为（如共现、同步）的先验知识以提升协调检测性能？
• RQ3 采用均值场近似的变分推断方法能否为协调检测中难以计算的群体分配分布提供可计算且理论可靠的解决方案？
• RQ4 与仅依赖数据的深度学习基线相比，整合先验知识是否能提升检测性能？
• RQ5 该模型能否在无真实标签的情况下（如在反疫苗推文活动）发现真实世界数据中的可疑协调行为？

主要发现

• 在IRA数据集中，VigDet在无监督和半监督协调检测设置下均优于最先进模型。
• 该模型在新冠疫苗推文数据集中检测到一个协调群体，其共享的不可靠或阴谋论新闻源占比达55.4%，显著高于正常账户群体的23.2%。
• 检测到的协调群体中，近期创建的账户比例（20.4%）高于正常账户（15.3%），表明存在近期恶意活动。
• 对检测群体代表性推文的分析显示，其广泛传播反疫苗叙事、阴谋论，以及关于疫苗有效性和安全性的虚假信息。
• 通过消融研究验证了模型性能，确认了神经点过程和先验知识整合组件的贡献。
• 尽管性能强劲，该模型仍可能误标正常账户或漏检真实协调群体，表明其应作为人类验证的辅助工具，而非确凿证据。