[论文解读] Combating Fraud in Online Social Networks: Detecting Stealthy Facebook Like Farms

Muhammad Ikram, Lucky Onwuzurike+6 more|arXiv (Cornell University)|Jun 1, 2015

Spam and Phishing Detection参考文献 27被引用 3

一句话总结

本文提出一种基于时间线的机器学习方法，用于检测能够规避传统图共聚类方法的隐蔽式 Facebook 喜欢农场。通过分析用户时间线帖子中的词汇特征与非词汇特征（如词数减少、词汇多样性降低以及共享内容的高重复性），该方法构建了一个支持向量机（SVM）分类器，实现了最高达 100% 的精确率与 97% 的召回率，显著优于现有的基于图的检测技术。

ABSTRACT

As businesses increasingly rely on social networking sites to engage with their customers, it is crucial to understand and counter reputation manipulation activities, including fraudulently boosting the number of Facebook page likes using like farms. To this end, several fraud detection algorithms have been proposed and some deployed by Facebook that use graph co-clustering to distinguish between genuine likes and those generated by farm-controlled profiles. However, as we show in this paper, these tools do not work well with stealthy farms whose users spread likes over longer timespans and like popular pages, aiming to mimic regular users. We present an empirical analysis of the graph-based detection tools used by Facebook and highlight their shortcomings against more sophisticated farms. Next, we focus on characterizing content generated by social networks accounts on their timelines, as an indicator of genuine versus fake social activity. We analyze a wide range of features extracted from timeline posts, which we group into two main classes: lexical and non-lexical. We postulate and verify that like farm accounts tend to often re-share content, use fewer words and poorer vocabulary, and more often generate duplicate comments and likes compared to normal users. We extract relevant lexical and non-lexical features and and use them to build a classifier to detect like farms accounts, achieving significantly higher accuracy, namely, at least 99% precision and 93% recall.

研究动机与目标

• 解决现有图共聚类欺诈检测工具在识别模仿正常用户行为的隐蔽式喜欢农场方面的局限性。
• 探究基于时间线的特征（词汇与非词汇特征）是否能有效区分喜欢农场账户与真实用户。
• 开发并评估一种基于时间线特征的监督式机器学习分类器，以实现对隐蔽式喜欢农场账户的高精度检测。
• 证明基于时间线的特征在检测复杂、低曝光度的喜欢农场方面，比单独依赖时间与社交图谱模式更为有效。

提出的方法

• 通过先前的诱饵活动，从喜欢农场账户和正常用户基线中收集时间线数据。
• 从时间线帖子中提取词汇特征，包括词数、词汇多样性以及可读性评分。
• 提取非词汇特征，如共享内容的频率、重复评论以及重复点赞。
• 将词汇与非词汇特征合并为统一的特征向量用于分类。
• 在真实数据集上训练并评估多种分类器，包括支持向量机（SVM）、决策树、AdaBoost、kNN、随机森林和朴素贝叶斯。
• 基于所有活动与特征集的性能表现，选择 SVM 作为最优分类器。

实验结果

研究问题

• RQ1 像 CopyCatch 和 SynchroTrap 这类图共聚类技术能否有效检测出模仿正常用户行为的隐蔽式喜欢农场？
• RQ2 喜欢农场账户与正常用户的时间线帖子在词汇与非词汇特征上存在哪些差异？
• RQ3 基于时间线特征训练的机器学习分类器是否能比基于图的方法更准确地检测出喜欢农场账户？
• RQ4 词汇特征（如词数、词汇多样性与可读性）在喜欢农场与正常用户帖子之间有何差异？
• RQ5 非词汇特征（如共享内容与重复互动）在多大程度上能区分喜欢农场与真实用户的行为？

主要发现

• 像 CopyCatch 和 SynchroTrap 这类图共聚类技术在检测隐蔽式喜欢农场时，由于其模仿正常用户行为，导致误报率较高。
• 喜欢农场帖子的平均词数比正常用户帖子少 43%，词汇多样性更低，且可读性显著降低。
• 大量喜欢农场帖子由非原创、共享的内容构成，包括重复的链接、文章与视频，表明其行为具有自动化或重复性特征。
• 基于组合词汇与非词汇特征训练的 SVM 分类器，最高实现 100% 的精确率与 97% 的召回率，且在所有活动中均保持至少 99% 的精确率与 93% 的召回率。
• SVM 分类器在检测准确率上优于所有其他测试算法，包括决策树、AdaBoost、kNN、随机森林与朴素贝叶斯。
• 由于模仿正常用户写作与互动模式的成本过高，使得喜欢农场通过行为模仿实现规避在经济上不可行。