[论文解读] Finding Online Extremists in Social Networks

Jytte Klausen, Christopher Marks+1 more|arXiv (Cornell University)|Oct 19, 2016

Spam and Phishing Detection参考文献 13被引用 10

一句话总结

本文提出了一种数据驱动的框架，用于在不依赖平台合作的情况下，在社交网络中检测和追踪在线极端分子。通过建模行为模式——如账户相似性、封禁后的网络重新连接，以及好友的好友重新连接——该框架构建了预测模型，并基于广义的波利亚瓮模型设计了优化的搜索策略，在定位被封禁极端分子的新账户方面，显著提高了效率，优于随机或贪心方法。

ABSTRACT

Online extremists in social networks pose a new form of threat to the general public. These extremists range from cyberbullies who harass innocent users to terrorist organizations such as the Islamic State of Iraq and Syria (ISIS) that use social networks to recruit and incite violence. Currently social networks suspend the accounts of such extremists in response to user complaints. The challenge is that these extremist users simply create new accounts and continue their activities. In this work we present a new set of operational capabilities to deal with the threat posed by online extremists in social networks. Using data from several hundred thousand extremist accounts on Twitter, we develop a behavioral model for these users, in particular what their accounts look like and who they connect with. This model is used to identify new extremist accounts by predicting if they will be suspended for extremist activity. We also use this model to track existing extremist users as they create new accounts by identifying if two accounts belong to the same user. Finally, we present a model for searching the social network to efficiently find suspended users' new accounts based on a variant of the classic Polya's urn setup. We find a simple characterization of the optimal search policy for this model under fairly general conditions. Our urn model and main theoretical results generalize easily to search problems in other fields.

研究动机与目标

• 开发在不依赖平台合作的情况下识别和追踪社交网络中在线极端分子的能力。
• 基于内容发布前的行为特征，预测账户是否会因极端主义活动被封禁。
• 利用资料和网络相似性，将多个账户关联到同一极端分子用户。
• 预测极端分子在创建新账户后，会与哪些前好友重新连接。
• 设计一种高效的搜索策略，利用网络结构和概率建模来定位被封禁极端分子的新账户。

提出的方法

• 利用来自36万条与ISIS相关的被封禁Twitter账户的数据，构建极端分子账户的行为模型。
• 使用资料和网络特征——如缺失地理位置、关注者数量和连接模式——来预测未来封禁的可能性。
• 应用广义波利亚瓮模型，形式化被封禁用户新账户的搜索过程。
• 推导出一种最优搜索策略，优先查询具有高重新连接概率且关注者数量较少的前好友。
• 采用贪心策略和Min-N策略作为基准，与最优策略的性能进行比较。
• 引入基于存在概率阈值（ρ̄ > 0）的终止准则，以在搜索效率与准确性之间取得平衡。

实验结果

研究问题

• RQ1 我们能否在不依赖账户发布任何内容的前提下，预测其是否会因极端主义内容被封禁？
• RQ2 我们能否基于行为和网络特征，准确地将多个账户关联到同一极端分子用户？
• RQ3 在社交网络中搜索被封禁极端分子新账户的最优策略是什么？
• RQ4 极端分子对前好友的重新连接行为如何影响搜索效率？
• RQ5 引入概率存在阈值如何影响搜索策略的最优性？

主要发现

• 最优搜索策略将定位被封禁极端分子新账户所需查询次数减少了高达50%，相比随机或贪心策略。
• 最优策略实现了40%的重新连接率，且在所有15组测试的账户对中，通过优先查询高概率、低关注者数的前好友，均成功定位到目标账户。
• 贪心策略和最优策略均优于随机策略，且成功前的期望失败次数与理论几何分布高度一致（1.5次期望失败）。
• Min-N策略的表现几乎与最优策略相当，表明其在实际部署中具有良好的鲁棒性。
• 即使引入存在概率阈值（ρ̄ > 0），最优策略依然有效，尽管初始概率ρ₀显著影响条件概率和搜索结果。
• 行为模型和搜索框架具有跨极端组织和社交网络的可扩展性，无需针对ISIS或Twitter进行专门化设计。