[论文解读] The Power of Deletions: Ephemeral Astroturfing Attacks on Twitter Trends

Tuğrulcan Elmas, Rebekah Overdorf+2 more|arXiv (Cornell University)|Oct 17, 2019

Spam and Phishing Detection参考文献 42被引用 4

一句话总结

本文揭示了推特上广泛存在的短暂性网络水军攻击，即自动化机器人发布并立即删除推文，以人为方式将关键词推入趋势榜单。研究识别出超过19,000个通过108,000个机器人操控的独特关键词，其中55%在2020年7月仍处于活跃状态，表明此类攻击至少占全球前十趋势的20%，并能操控公众舆论及传播有害内容。

ABSTRACT

We uncover and study ongoing ephemeral astroturfing attacks in which many automatically generated tweets are posted by a collection of fake and compromised accounts and then deleted immediately to artificially propel a chosen keywords to the top of Twitter trends. We observe such attacks in the wild and determine that they are not only quite successful in pushing a keyword to trends but also extremely prevalent. We detected over 19,000 unique keywords pushed to trends by over 108,000 bots, 55% of which still exist on the platform by July 2020 using Internet Archive's Twitter Stream Grab over four years. Trends astroturfed by these attacks account for at least 20% of top 10 world trends. Ephemeral astroturfing pollutes trends; allows for the manipulation of users' opinions; and permits content that could otherwise be filtered by the platform, such as illicit advertisements, political disinformation and hate speech targeting vulnerable populations. Our results aid in understanding user manipulation on social media and more generally shed light on the types of adversarial behavior that arise to evade detection.

研究动机与目标

• 调查推特上通过快速发布和删除推文来操纵趋势话题的短暂性网络水军攻击的普遍性和机制。
• 分析自动化机器人如何在数秒内发布并删除推文，以人为方式提升关键词在推特趋势中的排名。
• 评估此类被操纵趋势对公共话语和平台完整性的长期持续性和影响。
• 理解这些攻击如何规避检测机制，从而促进非法内容、虚假信息和仇恨言论的传播。
• 利用互联网档案馆的推特流抓取数据，提供此类攻击规模和有效性的实证证据。

提出的方法

• 使用互联网档案馆的推特流抓取工具收集四年推特数据，以识别推文爆发和删除的模式。
• 训练并应用机器人检测启发式方法，基于发布和删除行为识别自动化账户。
• 分析推文峰值和删除的时间模式，以检测针对趋势话题的协调性、短时性攻击活动。
• 追踪被操纵关键词及其相关机器人账户随时间的持续性，以评估长期影响。
• 通过趋势元数据和机器人活动日志，量化短暂性网络水军攻击影响全球前十趋势的比例。
• 通过分析关键词和推文内容，评估此类攻击所推广的内容类型，包括虚假信息和仇恨言论。

实验结果

研究问题

• RQ1 通过快速发布和删除推文来操纵推特趋势的短暂性网络水军攻击有多普遍？
• RQ2 这些攻击在多大程度上成功将关键词推入推特全球前十趋势？
• RQ3 被操纵的关键词和相关机器人账户中有多少在平台上长期保持活跃？
• RQ4 通过这些攻击放大的有害内容类型有哪些，例如虚假信息或仇恨言论？
• RQ5 这些攻击如何规避旨在识别机器人活动和协调操纵行为的检测机制？

主要发现

• 超过19,000个独特关键词通过短暂性网络水军攻击被人为推入推特趋势。
• 超过108,000个机器人参与了这些攻击，截至2020年7月仍有55%处于活跃状态。
• 至少20%的全球前十趋势受到此类攻击影响，表明其对公共话语具有显著影响。
• 由于快速发布与删除的循环机制，这些攻击在操纵趋势方面极为有效，且能规避检测。
• 55%的机器人账户持续存在，表明这些恶意网络具备长期运作能力和韧性。
• 这些攻击促进了非法内容的传播，包括政治虚假信息、仇恨言论以及本应被平台过滤的广告。