[论文解读] The Interconnected Nature of Online Harm and Moderation: Investigating the Cross-Platform Spread of Harmful Content between YouTube and Twitter

Valerio La Gatta, Luca Luceri+2 more|arXiv (Cornell University)|Apr 3, 2023

Hate Speech and Cyberbullying Detection被引用 6

一句话总结

本研究调查了因违反政策而被移除的有害YouTube视频如何在Twitter上系统性传播，发现传播此类内容的用户主要是具有极右翼、阴谋论意识形态的普通用户，且随后被平台封禁。研究结果揭示了跨平台内容传播现象，并呼吁平台间采取协调一致的审核策略，以遏制有害内容的传播。

ABSTRACT

The proliferation of harmful content shared online poses a threat to online information integrity and the integrity of discussion across platforms. Despite various moderation interventions adopted by social media platforms, researchers and policymakers are calling for holistic solutions. This study explores how a target platform could leverage content that has been deemed harmful on a source platform by investigating the behavior and characteristics of Twitter users responsible for sharing moderated YouTube videos. Using a large-scale dataset of 600M tweets related to the 2020 U.S. election, we find that moderated Youtube videos are extensively shared on Twitter and that users who share these videos also endorse extreme and conspiratorial ideologies. A fraction of these users are eventually suspended by Twitter, but they do not appear to be involved in state-backed information operations. The findings of this study highlight the complex and interconnected nature of harmful cross-platform information diffusion, raising the need for cross-platform moderation strategies.

研究动机与目标

• 调查因违反政策而被移除的YouTube视频在Twitter上被分享的程度。
• 从意识形态、行为和平台参与度等方面，对分享这些受审核视频的用户（即“推动者”）进行特征描述。
• 评估这些推动者是否为机器人、国家支持的行动者或普通用户，以及其内容在传播范围和互动量方面的表现。
• 评估被移除的YouTube内容在跨平台传播是否表明孤立审核方法存在系统性漏洞。
• 通过分析内容推动者的意识形态与行为模式，为跨平台协调审核策略的设计提供建议。

提出的方法

• 利用与2020年美国大选相关的6亿条Twitter数据集，识别YouTube视频的分享行为。
• 借助YouTube API获取元数据，判断所分享的视频是否被YouTube标记或移除。
• 将Twitter用户分为两类：主要分享未受审核YouTube视频的用户（NMYT推动者）和主要分享受审核视频的用户（MYT推动者）。
• 通过区分原创推文与转发推文，分析用户行为，评估主动与被动分享模式。
• 利用语言特征和参与度指标评估推动者的政治意识形态，发现MYT推动者与极右翼及亲特朗普情绪高度一致。
• 评估推动者在Twitter上的封禁状态，以判断其是否被平台审核系统识别。

实验结果

研究问题

• RQ1 受审核的YouTube视频在Twitter上被分享的普遍性、生命周期和传播范围如何？
• RQ2 受审核YouTube视频的推动者具有何种特征？与未受审核视频的推动者有何不同？
• RQ3 受审核YouTube视频的推动者是否从Twitter的广大用户群体中获得显著互动？
• RQ4 受审核YouTube内容的推动者主要是机器人、国家支持的行动者，还是普通用户？
• RQ5 受审核与未受审核视频分享者之间的推动者意识形态倾向有何差异？

主要发现

• 在2020年美国大选期间，Twitter上分享的YouTube视频中，24.7%被YouTube标记或移除，表明有害内容在跨平台广泛传播。
• 与未受审核的视频相比，受审核的YouTube视频在Twitter上获得了更高的传播范围和互动量，表明目标平台存在内容放大效应。
• 受审核YouTube视频的推动者主要是普通Twitter用户，他们通过被动转发而非原创发布来传播内容，表明其行为具有低内容生产性但高传播放大性。
• 超过一半的受审核YouTube视频推动者虽未被识别为机器人或国家支持的行动者，但最终被Twitter封禁。
• 受审核视频的推动者与极右翼意识形态高度一致，并在2020年美国大选期间持续支持唐纳德·特朗普，而未受审核视频的推动者则表现出更多元化的政治倾向。
• 两类推动者均表现出强烈的群体内凝聚力，并从Twitter广大用户群体中获得相似水平的互动，表明意识形态一致性会驱动可见性，无论内容是否经过审核。