[论文解读] Exposing Cross-Platform Coordinated Inauthentic Activity in the Run-Up to the 2024 U.S. Election

Federico Cinus, Marco Minici+2 more|arXiv (Cornell University)|Oct 30, 2024

Electoral Systems and Political Participation被引用 4

一句话总结

本研究开发了一种跨平台协调活动检测模型，用于识别2024年美国大选期间在X（前身为Twitter）、Facebook和Telegram上针对的协调性虚假活动（CoIA）。通过分析共享内容和互动模式的相似性网络，研究揭示了对俄罗斯关联媒体、党派叙事以及低可信度内容的系统性推广，表明CoIA跨越多个平台，显著放大了虚假信息。

ABSTRACT

Coordinated information operations remain a persistent challenge on social media, despite platform efforts to curb them. While previous research has primarily focused on identifying these operations within individual platforms, this study shows that coordination frequently transcends platform boundaries. Leveraging newly collected data of online conversations related to the 2024 U.S. Election across $\mathbb{X}$ (formerly, Twitter), Facebook, and Telegram, we construct similarity networks to detect coordinated communities exhibiting suspicious sharing behaviors within and across platforms. Proposing an advanced coordination detection model, we reveal evidence of potential foreign interference, with Russian-affiliated media being systematically promoted across Telegram and $\mathbb{X}$. Our analysis also uncovers substantial intra- and cross-platform coordinated inauthentic activity, driving the spread of highly partisan, low-credibility, and conspiratorial content. These findings highlight the urgent need for regulatory measures that extend beyond individual platforms to effectively address the growing challenge of cross-platform coordinated influence campaigns.

研究动机与目标

• 应对协调性虚假活动（CoIA）日益增长的挑战，此类活动超越单一社交媒体平台，尤其在美国内战背景下。
• 识别促进特定网站域名的平台内及跨平台CoIA网络，以及其对党派性、低可信度或阴谋论叙事的放大作用。
• 比较CoIA的互动动态与自然用户活动，评估协调活动的规模与影响。
• 推进检测技术，超越单一平台分析，以捕捉协调影响力行动的完整范围。
• 强调迫切需要实施跨平台监管与技术干预，以应对系统性虚假信息威胁。

提出的方法

• 基于X、Facebook和Telegram上共享内容、话题标签和链接使用情况，构建相似性网络，以检测协调社区。
• 应用先进的协调检测模型，识别表明CoIA的同步发布和共同活动模式。
• 利用语言模型分析内容特征，识别阴谋论、党派性或低可信度叙事。
• 利用大规模、多平台的选举相关对话数据集，收集于2024年美国大选前夕。
• 整合网站域名追踪技术，检测对特定外部网站的协调性引流，特别是与外国关联媒体相关的网站。
• 比较协调账户与自然用户在互动指标（如点赞、分享、传播范围）上的差异，以评估放大效应。

Figure 1 . Cross-platform coordination network showing user coordination across four social media networks.

实验结果

研究问题

• RQ1 RQ 1：我们是否观察到旨在将流量引向特定网站域名的平台内及跨平台CoIA？协调账户具有哪些特征？它们推广了哪些具体域名？
• RQ2 RQ 2：我们是否观察到CoIA在推动特定叙事？协调账户具有哪些特征？它们放大了哪些具体主题？
• RQ3 RQ 3：CoIA在不同平台上产生了何种水平的互动？与自然用户所获得的互动相比如何？
• RQ4 RQ 4：俄罗斯关联媒体在跨平台CoIA网络中扮演了何种角色？
• RQ5 RQ 5：协调网络如何利用平台差异来放大阴谋论或低可信度内容？

主要发现

• 本研究识别出多个在Telegram和X上推广俄罗斯关联媒体的协调网络，表明2024年美国大选话语中存在系统性外国干预。
• 协调性虚假活动被发现系统性地放大了党派性、低可信度及阴谋论内容，包括地平说理论、反犹太主义叙事以及选举舞弊指控。
• 特定主题如“特朗普审判”、“俄乌冲突”、“禽流感”和“《圣经》引文”在Telegram和X上通过协调网络被大量推广。
• 协调账户产生的互动量显著高于自然用户，部分网络通过同步发布和话题标签协调实现了病毒式传播。
• 分析表明，跨平台协调使虚假信息的传播超越了单一平台检测系统的覆盖范围。
• 本研究证明，协调行为不仅限于单一平台，证据显示在X、Facebook和Telegram之间存在围绕高敏感政治话题的同步活动。

(a) Telegram