[论文解读] Causal Inference for Early Detection of Pathogenic Social Media Accounts

Hamidreza Alvari, Paulo Shakarian|arXiv (Cornell University)|Jun 26, 2018

Complex Network Analysis Techniques参考文献 6被引用 3

一句话总结

本文提出了一种因果推断框架，用于通过时间衰减因果得分和用户行为日志中的社区结构，实现对致病性社交媒体（PSM）账户的早期检测，无需依赖网络结构、内容或传播路径，在其活动开始10天内实现了0.63的F1得分和84%的精确率。

ABSTRACT

Pathogenic social media accounts such as terrorist supporters exploit communities of supporters for conducting attacks on social media. Early detection of PSM accounts is crucial as they are likely to be key users in making a harmful message "viral". This paper overviews my recent doctoral work on utilizing causal inference to identify PSM accounts within a short time frame around their activity. The proposed scheme (1) assigns time-decay causality scores to users, (2) applies a community detection-based algorithm to group of users sharing similar causality scores and finally (3) deploys a classification algorithm to classify accounts. Unlike existing techniques that require network structure, cascade path, or content, our scheme relies solely on action log of users.

研究动机与目标

• 解决致病性社交媒体（PSM）账户在病毒式传播前传播有害错误信息的早期检测挑战。
• 克服现有方法依赖网络结构、内容或传播路径的局限性，这些信息往往不可用或不可靠。
• 开发一种仅依赖用户行为日志的基于因果推断的检测框架，实现实时识别PSM账户。
• 探究因果得分在社区内部是否比在社区之间更集中，以提高分类准确率。
• 通过在初始活动附近的时间窗口内检测PSM账户，实现实时干预。

提出的方法

• 使用滑动窗口和指数衰减函数计算时间衰减因果度量，以建模随时间动态变化的因果影响。
• 应用Kleinberg-Mishra因果度量来量化用户对消息传播的影响力，并通过 $\xi_{K\&M}^{I}(i) = \frac{1}{|\mathcal{T}|}\sum_{t'\in\mathcal{T}}e^{-\sigma(t-t')}\times\epsilon_{K\&M}(i)$ 进行时间衰减调整。
• 从共同发布行为构建用户-行为图，若用户按时间顺序发布相同消息则相互连接。
• 使用Louvain算法在基于行为的图中检测社区，以识别具有相似因果模式的用户群集。
• 执行两样本t检验，验证社区内部的因果得分显著高于跨社区得分。
• 将因果得分与社区结构整合到分类管道中，用于PSM检测，采用监督学习和基于邻近度的评分方法。

实验结果

研究问题

• RQ1 仅基于行为日志，时间衰减因果度量是否能有效区分致病性社交媒体（PSM）账户与普通用户？
• RQ2 同一社区内用户与跨不同社区用户之间的因果得分分布是否存在显著差异？
• RQ3 从行为日志中提取的社区结构是否能提升PSM账户检测的准确性，相比单独使用因果得分？
• RQ4 所提出的框架在PSM账户活动初期10天内检测的及时性和有效性如何？
• RQ5 因果性与社区结构的结合是否优于依赖网络结构或内容分析的基线方法？

主要发现

• 仅使用时间衰减因果度量，在监督学习下检测PSM账户的F1得分为0.63。
• 使用基于衰减的因果特征进行监督学习，在账户活动开始后的前10天内识别出71%的PSM账户。
• 基于社区检测的框架在账户初始活动后10天内识别PSM账户的精确率达到0.84。
• 在初始检测窗口中误分类的账户在初始窗口后10天内被成功检测到，表明具有强大的时间恢复能力。
• 两样本t检验拒绝原假设（p值 = 4.945e-17），证实社区内部的因果得分显著高于跨社区得分。
• 该框架在不依赖网络结构、内容或传播路径数据的情况下有效运行，仅依赖用户行为日志。