[论文解读] The Manufacture of Political Echo Chambers by Follow Train Abuse on Twitter.

Christopher Torres-Lugo, Kai‐Cheng Yang+1 more|arXiv (Cornell University)|Oct 26, 2020

Misinformation and Its Impacts参考文献 54被引用 6

一句话总结

本文揭示了Twitter上跟车行为滥用现象人为地夸大了极端政治立场账户的影响力，导致形成层级化、集群化的回音室。通过对美国一个大规模跟车网络的系统性分析，研究发现被推广账户的日增粉丝数中位数增长六倍，同时存在非真实行为的证据以及有毒内容的放大现象。

ABSTRACT

A growing body of evidence points to critical vulnerabilities of social media, such as the emergence of partisan echo chambers and the viral spread of misinformation. We show that these vulnerabilities are amplified by abusive behaviors associated with so-called on Twitter, in which long lists of like-minded accounts are mentioned for others to follow. We present the first systematic analysis of a large U.S. hyper-partisan train network. We observe an artificial inflation of influence: accounts heavily promoted by follow trains profit from a median six-fold increase in daily follower growth. This catalyzes the formation of highly clustered echo chambers, hierarchically organized around a dense core of active accounts. Train accounts also engage in other behaviors that violate platform policies: we find evidence of activity by inauthentic automated accounts and abnormal content deletion, as well as amplification of toxic content from low-credibility and conspiratorial sources. Some train accounts have been active for years, suggesting that platforms need to pay greater attention to this kind of abuse.

研究动机与目标

• 探究Twitter上的跟车行为滥用如何促成政治回音室的形成。
• 分析通过跟车网络协调增粉所导致的影响力人为膨胀现象。
• 检测跟车网络中非真实行为的迹象，例如自动化账户及异常内容删除行为。
• 研究由跟车组织的账户如何放大有毒内容或低可信度内容。
• 评估跟车网络的长期持续性，揭示平台潜在的系统性漏洞。

提出的方法

• 系统性地收集并分析了参与美国极端政治跟车行为的Twitter账户大规模数据集。
• 追踪通过跟车推广的账户的粉丝增长速率，以衡量人为影响力膨胀的程度。
• 识别网络结构，揭示以高度活跃的跟车账户为核心、密集连接的层级化集群结构。
• 开展行为分析，检测非真实行为模式，包括自动化账户活动及异常内容删除行为。
• 评估内容放大模式，尤其关注低可信度和阴谋论来源内容的传播。
• 追踪跟车账户的长期活动，以评估其持续性及平台监管的盲区。

实验结果

研究问题

• RQ1 跟车行为在多大程度上人为夸大了Twitter上极端政治立场账户的粉丝增长？
• RQ2 跟车网络的结构如何？核心账户在维系回音室中扮演何种角色？
• RQ3 跟车网络中是否存在非真实行为的证据，例如自动化账户或异常内容删除行为？
• RQ4 跟车网络如何促进有毒或低可信度内容的传播？
• RQ5 这些跟车网络已持续多长时间，表明平台可能存在系统性漏洞？

主要发现

• 通过跟车推广的账户相比未推广账户，其日均粉丝增长中位数提高了六倍。
• 网络结构显示存在以高度活跃的跟车账户为核心、密集连接的层级化组织。
• 发现了非真实行为的证据，包括自动化账户活动及异常内容删除模式。
• 跟车网络放大了来自低可信度和阴谋论来源的有毒内容。
• 部分跟车账户已活跃多年，表明平台漏洞长期被利用。
• 跟车行为的协调性显著推动了Twitter上集群化、极端政治化回音室的形成。