[论文解读] How does Twitter account moderation work? Dynamics of account creation and suspension on Twitter during major geopolitical events

Francesco Pierri, Luca Luceri+2 more|arXiv (Cornell University)|Sep 15, 2022

Hate Speech and Cyberbullying Detection参考文献 60被引用 6

一句话总结

本研究利用包含2.7亿条推文的大型数据集，分析了在俄罗斯入侵乌克兰和2022年法国总统选举这两场重大地缘政治事件期间，Twitter对账户的监管措施。研究发现，平台迅速封禁了表现出垃圾信息行为（如过度回复和提及）的新注册账户，并识别出触发平台干预的协调性滥用行为模式，有助于提升平台监管动态的透明度。

ABSTRACT

Social media moderation policies are often at the center of public debate, and their implementation and enactment are sometimes surrounded by a veil of mystery. Unsurprisingly, due to limited platform transparency and data access, relatively little research has been devoted to characterizing moderation dynamics, especially in the context of controversial events and the platform activity associated with them. Here, we study the dynamics of account creation and suspension on Twitter during two global political events: Russia's invasion of Ukraine and the 2022 French Presidential election. Leveraging a large-scale dataset of 270M tweets shared by 16M users in multiple languages over several months, we identify peaks of suspicious account creation and suspension, and we characterize behaviours that more frequently lead to account suspension. We show how large numbers of accounts get suspended within days from their creation. Suspended accounts tend to mostly interact with legitimate users, as opposed to other suspicious accounts, often making unwarranted and excessive use of reply and mention features, and predominantly sharing spam and harmful content. While we are only able to speculate about the specific causes leading to a given account suspension, our findings shed light on patterns of platform abuse and subsequent moderation during major events.

研究动机与目标

• 调查Twitter账户监管系统在重大地缘政治事件引发可疑活动激增时的响应机制。
• 识别与账户封禁相关的特定行为模式，尤其针对新创建的账户。
• 提供及时、近乎实时的账户创建与封禁动态分析，克服基于API的回顾性研究的局限性。
• 通过描述高关注度时期滥用行为模式与封禁触发因素，为平台监管透明度做出贡献。
• 支持未来对恶意行为早期检测的研究，并增进对平台在民主话语中干预机制的理解。

提出的方法

• 在两次重大事件期间，收集了来自1600万用户的多语言公开推文，共计2.7亿条，构建大规模数据集。
• 以最小延迟追踪账户创建与封禁的时间线，实现对监管行为的近乎实时分析。
• 基于行为异常（如高频率回复与提及、快速内容传播）识别可疑账户。
• 通过分析账户互动模式、内容类型及其与账户年龄的时间动态，对被封账户进行特征刻画。
• 使用公开的Twitter API端点获取推文ID，确保研究可复现，同时遵守平台服务条款。
• 应用时间序列分析，检测账户创建与封禁的峰值，并与事件时间线进行关联。

实验结果

研究问题

• RQ1 在俄罗斯-乌克兰战争和法国总统选举等重大地缘政治事件期间，Twitter的账户创建与封禁率如何变化？
• RQ2 在平台活动高峰期，被封账户与合法用户之间存在哪些可区分的行为模式？
• RQ3 可疑账户在创建后多快时间内被封禁？哪些因素与早期封禁相关？
• RQ4 被封账户在多大程度上与合法用户互动，而非与其他可疑账户互动？
• RQ5 与具有类似行为但未被封禁的活跃账户相比，被封账户的特征有何差异？

主要发现

• 被封账户大多在创建后数天内即被封禁，表明Twitter的监管系统具备快速检测能力。
• 封禁行为与过度使用回复和提及功能密切相关，暗示存在自动化或机器人行为。
• 被封账户频繁传播大量垃圾信息和有害内容，且通常针对合法用户，而非其他可疑账户。
• 账户创建与封禁的高峰与重大事件的关键节点相吻合，表明在高关注度时期存在协调性滥用活动。
• 研究观察到，大量被封账户表现出协调性行为，但其具体检测机制仍不透明。
• 尽管平台透明度有限，本研究仍提供了系统性监管响应协调性虚假行为的实证证据，尤其在国际危机期间。