[论文解读] Sneak into Devil's Colony- A study of Fake Profiles in Online Social Networks and the Cyber Law

Mudasir Ahmad Wani, Suraiya Jabin+2 more|arXiv (Cornell University)|Mar 22, 2018

Spam and Phishing Detection参考文献 61被引用 7

一句话总结

本文研究在线社交网络（OSNs）中的虚假账号，将其分类为被劫持、克隆和机器人类型（例如，垃圾信息机器人、点赞机器人）。提出了一种利用特征工程和机器学习检测此类账号的框架，通过新颖的数据收集技术应对数据稀缺问题，并强调了现有网络法律在执法方面的不足。

ABSTRACT

Massive content about user's social, personal and professional life stored on Online Social Networks (OSNs) has attracted not only the attention of researchers and social analysts but also the cyber criminals. These cyber criminals penetrate illegally into an OSN by establishing fake profiles or by designing bots and exploit the vulnerabilities of an OSN to carry out illegal activities. With the growth of technology cyber crimes have been increasing manifold. Daily reports of the security and privacy threats in the OSNs demand not only the intelligent automated detection systems that can identify and alleviate fake profiles in real time but also the reinforcement of the security and privacy laws to curtail the cyber crime. In this paper, we have studied various categories of fake profiles like compromised profiles, cloned profiles and online bots (spam-bots, social-bots, like-bots and influential-bots) on different OSN sites along with existing cyber laws to mitigate their threats. In order to design fake profile detection systems, we have highlighted different category of fake profile features which are capable to distinguish different kinds of fake entities from real ones. Another major challenges faced by researchers while building the fake profile detection systems is the unavailability of data specific to fake users. The paper addresses this challenge by providing extremely obliging data collection techniques along with some existing data sources. Furthermore, an attempt is made to present several machine learning techniques employed to design different fake profile detection systems.

研究动机与目标

• 分析由于网络犯罪增加而带来的在线社交网络中虚假账号日益增长的威胁。
• 将虚假账号分类为被劫持、克隆和基于机器人三类，并识别其独特的行为与结构特征。
• 解决用于训练检测系统的真实虚假用户数据有限的挑战。
• 评估机器学习技术在实时检测虚假账号方面的有效性。
• 评估现行网络法律在威慑和起诉与虚假账号相关的网络犯罪方面的充分性。

提出的方法

• 将虚假账号分为四类主要类型：被劫持、克隆、垃圾信息机器人、社交机器人、点赞机器人和影响力机器人。
• 识别可区分的特征，如账号完整度、好友数量、发帖频率和网络结构，以实现检测。
• 提出针对收集真实虚假用户数据的定制化数据收集技术，克服现有数据集中虚假用户数据稀缺的问题。
• 利用机器学习模型（例如，SVM、随机森林、神经网络）基于工程化特征训练，以分类虚假与真实账号。
• 将检测到的账号类型映射到相关网络法律，以评估法律可执行性及合规性漏洞。
• 将基于特征的检测与法律框架相结合，以支持自动化执法和政策建议。

实验结果

研究问题

• RQ1 在线社交网络中发现的主要虚假账号类型是什么？它们在行为和结构上如何不同？
• RQ2 哪些特定特征能有效区分不同OSN平台上的虚假账号与真实账号？
• RQ3 研究人员如何克服用于训练检测模型的标注虚假用户数据稀缺的问题？
• RQ4 哪些机器学习技术在实时检测各种类型的虚假账号方面最为有效？
• RQ5 现行网络法律在多大程度上充分应对了虚假账号活动的检测、预防和起诉？

主要发现

• OSNs中的虚假账号主要分为三类：被劫持（被黑客入侵的账号）、克隆（重复账号）和机器人驱动（垃圾信息、点赞、社交或影响力机器人）。
• 基于特征的检测方法，利用账号年龄、好友数量、发帖模式和网络中心性等指标，显著提升了分类准确率。
• 公开可获取的虚假用户数据集稀缺，仍是训练鲁棒检测系统的主要障碍。
• 如随机森林和SVM等机器学习模型在区分虚假账号方面表现出色，具有高精度和高召回率。
• 现行网络法律不足以应对虚假账号创建者不断演变的策略，尤其是在机器人网络和跨平台滥用方面。
• 技术检测能力与法律执法之间存在差距，亟需更强大的立法框架以支持自动化检测系统。