[论文解读] Lateral Astroturfing Attacks on Twitter Trending Topics.

Tuğrulcan Elmas, Rebekah Overdorf+2 more|arXiv (Cornell University)|Oct 17, 2019

Hate Speech and Cyberbullying Detection被引用 5

一句话总结

本文首次对推特平台上的横向网络水军攻击进行了大规模分析，此类攻击通过被入侵的账号发布并立即删除推文，人为地将关键词推上热搜。研究识别出超过20,000个此类账号，操纵了3,710个独特的关键词，影响了所分析地区至少10%的日间热搜话题，揭示了一种隐蔽的手段，可在规避检测的同时操纵公共舆论。

ABSTRACT

Astroturfing attacks use automated accounts to artificially propel a chosen keyword to the top of Twitter trending topics. Lateral astroturfing is a sophisticated subset of such attacks in which the automated tweets 1) are posted by compromised accounts and 2) are deleted immediately after they are created. The former makes the attack more effective and the latter aids in evading detection. We present the first large-scale analysis of lateral astroturfing attacks. We detected over 20 thousand astroturfing accounts that were used between February 2019 and June 2019 to manipulate 3,710 unique keywords --- at least 10% of daily trending topics in the region analyzed. Lateral astroturfing pollutes trending topics; allows for the manipulation of users' opinions; and permits content that could otherwise be filtered by the platform, such as illicit advertisements. Our results aid in understanding user manipulation on social media and more generally shed light on the type of adversarial behavior that arises to evade detection.

研究动机与目标

• 调查推特平台上横向网络水军攻击的普遍性及其运作机制，这是一种复杂的社会媒体操纵形式。
• 理解被入侵账号如何被用于人为地将关键词推高至热搜状态，同时规避检测。
• 量化此类攻击对推特热搜话题系统的影响规模与程度。
• 揭示横向网络水军攻击带来的风险，包括对公众舆论的操纵以及规避内容过滤机制。

提出的方法

• 收集并分析了2019年2月至6月期间的推特数据，以识别快速创建和删除推文的模式。
• 追踪了发布特定关键词推文并在发布后立即删除的账号。
• 基于行为异常（如高发推量、内容生命周期短、缺乏互动）识别出被入侵账号。
• 通过关键词层面的分析，将协调一致的推文爆发与特定地理区域的热搜话题关联起来。
• 应用启发式方法，根据时间序列和账号层面的模式，区分横向网络水军攻击与自然热搜行为。
• 通过与已知操纵活动及平台检测信号交叉比对，验证研究发现。

实验结果

研究问题

• RQ1 在为期六个月的时间内，推特平台上的横向网络水军攻击有多普遍？
• RQ2 哪些行为特征可将横向网络水军攻击与自然热搜活动区分开来？
• RQ3 横向网络水军攻击在多大程度上影响了每日热搜话题的构成？
• RQ4 被入侵账号如何在规避检测的同时促成此类攻击的成功？
• RQ5 此类攻击对内容审核和公众舆论操纵的更广泛影响是什么？

主要发现

• 在2019年2月至6月期间，识别出超过20,000个参与横向网络水军攻击的账号。
• 这些账号操纵了3,710个独特的关键词，所分析地区至少10%的日间热搜话题受到其影响。
• 此类攻击依赖于快速创建和删除推文，从而规避标准检测机制。
• 使用被入侵账号提升了操纵活动的可信度与有效性。
• 横向网络水军攻击可促进本可能被过滤的内容，例如非法广告。
• 本研究揭示了对推特热搜话题系统完整性构成的重大且系统性的威胁。