[论文解读] POISED: Spotting Twitter Spam Off the Beaten Paths

Shirin Nilizadeh, François Labrèche+6 more|arXiv (Cornell University)|Aug 29, 2017

Spam and Phishing Detection参考文献 75被引用 8

一句话总结

POISED 是一种新颖的垃圾信息检测系统，通过分析消息在兴趣社群中的传播模式，利用基于主题的传播路径识别推特上的恶意内容。在包含130万条推文的数据集上，该系统实现了91%的精确率和93%的召回率，优于现有系统，并展现出对对抗性攻击的强韧性。

ABSTRACT

Cybercriminals have found in online social networks a propitious medium to spread spam and malicious content. Existing techniques for detecting spam include predicting the trustworthiness of accounts and analyzing the content of these messages. However, advanced attackers can still successfully evade these defenses. Online social networks bring people who have personal connections or share common interests to form communities. In this paper, we first show that users within a networked community share some topics of interest. Moreover, content shared on these social network tend to propagate according to the interests of people. Dissemination paths may emerge where some communities post similar messages, based on the interests of those communities. Spam and other malicious content, on the other hand, follow different spreading patterns. In this paper, we follow this insight and present POISED, a system that leverages the differences in propagation between benign and malicious messages on social networks to identify spam and other unwanted content. We test our system on a dataset of 1.3M tweets collected from 64K users, and we show that our approach is effective in detecting malicious messages, reaching 91% precision and 93% recall. We also show that POISED's detection is more comprehensive than previous systems, by comparing it to three state-of-the-art spam detection systems that have been proposed by the research community in the past. POISED significantly outperforms each of these systems. Moreover, through simulations, we show how POISED is effective in the early detection of spam messages and how it is resilient against two well-known adversarial machine learning attacks.

研究动机与目标

• 解决现有垃圾信息检测系统仅关注账户或消息特征而忽视传播模式的局限性。
• 通过建模消息在兴趣社群中的传播方式，利用良性与恶意扩散之间的差异来检测垃圾信息。
• 提高检测准确率并实现垃圾信息的早期识别，尤其在面对复杂逃避技术时。
• 开发一种可扩展且具备韧性的系统，可在大规模社交网络中实时部署。
• 证明基于社群的传播模式是识别恶意内容的可靠信号。

提出的方法

• POISED 使用图聚类方法识别社交网络中的结构性社群，基于用户连接关系构建网络化社群。
• 通过分析用户生成内容中的主题相似性，检测兴趣社群，利用主题建模将具有共同兴趣的用户分组。
• 系统建模消息在这些兴趣社群间的传播，识别偏离正常模式的传播路径。
• 基于用户举报的标注数据训练概率模型，根据消息在社群间的传播行为将其分类为垃圾信息。
• 采用四元语法相似度对相似消息进行分组，再应用概率模型，实现高效检测。
• 系统设计具备可扩展性，通过离线预处理完成主题检测与消息匹配，线上则采用高效的SVM推理实现实时分类。

实验结果

研究问题

• RQ1 跨兴趣社群的消息传播模式能否可靠地区分垃圾信息与合法内容？
• RQ2 POISED 基于传播的检测方法在性能上与基于账户或内容的垃圾信息检测系统相比如何？
• RQ3 POISED 能在多大程度上在垃圾信息广泛传播前实现早期检测？
• RQ4 POISED 对旨在规避检测的对抗性机器学习攻击具有多强的韧性？
• RQ5 该系统能否有效扩展至推特等大规模社交网络？

主要发现

• 在130万条推文的数据集上，POISED 实现了91%的精确率和93%的召回率，显著优于三种最先进的垃圾信息检测系统。
• 系统在垃圾信息早期检测方面表现有效，通过模拟验证了对恶意传播路径的及时识别能力。
• POISED 在面对两种著名的对抗性机器学习攻击时表现出强韧性，即使在逃避尝试下仍保持高检测准确率。
• 通过建模消息在兴趣社群中的传播，系统性能得到增强，因为此类传播模式捕捉了自然的信息扩散路径，而垃圾信息会破坏这些路径。
• POISED 可通过分布式计算高效扩展，预计使用150台机器可在两小时内处理每日5亿条推文。
• 即使攻击者尝试规避基于四元语法的相似度检测，该方法仍保持有效性，原因在于传播模式分析具有强健性。