[论文解读] Friend or Foe? Fake Profile Identification in Online Social Networks

Michael Fire, Dima Kagan+2 more|arXiv (Cornell University)|Mar 15, 2013

Internet Traffic Analysis and Secure E-voting参考文献 7被引用 5

一句话总结

本文提出了一款名为社交隐私保护者（Social Privacy Protector, SPP）的软件，该软件为Firefox浏览器开发了附加组件，并作为Facebook应用运行，利用用户网络特征的机器学习技术识别虚假资料。SPP使用户能够限制可疑好友对个人数据的访问，减少通过第三方应用暴露的风险，在真实世界Facebook数据集上使用Rotation-Forest分类器实现了高达0.96的AUC，展现出显著提升社交网络隐私与安全的潜力。

ABSTRACT

The amount of personal information unwillingly exposed by users on online social networks is staggering, as shown in recent research. Moreover, recent reports indicate that these networks are infested with tens of millions of fake users profiles, which may jeopardize the users' security and privacy. To identify fake users in such networks and to improve users' security and privacy, we developed the Social Privacy Protector software for Facebook. This software contains three protection layers, which improve user privacy by implementing different methods. The software first identifies a user's friends who might pose a threat and then restricts this "friend's" exposure to the user's personal information. The second layer is an expansion of Facebook's basic privacy settings based on different types of social network usage profiles. The third layer alerts users about the number of installed applications on their Facebook profile, which have access to their private information. An initial version of the Social Privacy Protection software received high media coverage, and more than 3,000 users from more than twenty countries have installed the software, out of which 527 used the software to restrict more than nine thousand friends. In addition, we estimate that more than a hundred users accepted the software's recommendations and removed at least 1,792 Facebook applications from their profiles. By analyzing the unique dataset obtained by the software in combination with machine learning techniques, we developed classifiers, which are able to predict which Facebook profiles have high probabilities of being fake and therefore, threaten the user's well-being. Moreover, in this study, we present statistics on users' privacy settings and statistics of the number of applications installed on Facebook profiles...

研究动机与目标

• 为应对Facebook上虚假资料和第三方应用滥用日益增长的威胁，这些威胁损害了用户隐私与安全。
• 开发一种实用工具，使用户能够检测并减轻来自可疑好友和已安装应用的风险。
• 收集真实世界用户在隐私设置和应用安装方面的数据，揭示Facebook上系统性的暴露风险。
• 利用基于网络的特征和用户行为模式，训练并评估用于虚假资料检测的机器学习分类器。
• 为Facebook管理员和用户提供可操作的洞察与工具，以减少遭受恶意资料和应用暴露的风险。

提出的方法

• 开发了Firefox附加组件和Facebook应用程序（SPP），实现三层隐私保护：一键调整隐私设置、应用暴露警报和虚假好友检测。
• 从1,676名用户处收集了关于应用安装的数据，从67名用户处收集了关于隐私设置的数据，构建了一个用于分析的独特数据集。
• 从用户资料和好友网络中提取了15项特征，包括资料年龄、好友数量、共同好友数量以及基于链接的特征。
• 在三个数据集上训练了监督式机器学习分类器——逻辑回归、随机森林和Rotation-Forest：虚假资料集、所有链接集以及合并数据集。
• 采用10折交叉验证，并使用AUC、k值精度和假阳性率评估性能，以比较各类分类器的有效性。
• 应用欠采样技术处理数据集中的类别不平衡问题，重点提升对罕见虚假资料的检测能力。

实验结果

研究问题

• RQ1 基于网络的特征在区分Facebook上的虚假资料与真实资料方面有多有效？
• RQ2 哪种机器学习分类器在识别虚假资料的同时，能将假阳性率降至最低？
• RQ3 在真实世界中，第三方应用安装和隐私设置错误配置在Facebook用户中的普遍程度如何？
• RQ4 用户意识工具（如SPP）在多大程度上能减少已安装的应用数量，并限制可疑好友的访问？
• RQ5 SPP系统能否协助Facebook管理员大规模识别并缓解虚假资料问题？

主要发现

• Rotation-Forest分类器在所有三个数据集上均实现了最高的AUC（0.96）和最低的假阳性率，优于逻辑回归和随机森林。
• 在调查的1,676名用户中，30.31%至少安装了40个Facebook应用，平均每周新增1.91个新应用，表明存在广泛的应用暴露风险。
• 在SPP用户收到警报后，至少有1,792个应用被111名用户移除，表明意识工具能有效降低应用暴露风险。
• 527名用户通过SPP的“好友限制”功能限制了超过9,000名好友，证明了用户在隐私保护方面的实际参与度。
• SPP软件从全球20多个国家的超过3,000名用户处收集了数据，验证了其在真实世界中的部署效果和用户兴趣。
• 本研究发现，大多数用户将个人信息暴露给好友，甚至公开可见，凸显了系统性的隐私配置错误。