[论文解读] Subscriptions and external links help drive resentful users to alternative and extremist YouTube videos

Annie Y. Chen, Brendan Nyhan+3 more|arXiv (Cornell University)|Apr 22, 2022

Hate Speech and Cyberbullying Detection被引用 16

一句话总结

本研究基于1,181名美国参与者的配对行为数据与调查数据，表明用户对替代性及极端主义YouTube内容的接触主要由具有高度性别与种族怨恨情绪的用户通过主动订阅此类频道及点击外部链接所驱动，而非算法推荐。尽管YouTube在2019年调整算法后减少了对边缘内容的推荐，平台仍通过用户主动行为促成针对性的内容暴露。

ABSTRACT

Do online platforms facilitate the consumption of potentially harmful content? Using paired behavioral and survey data provided by participants recruited from a representative sample in 2020 (n=1,181), we show that exposure to alternative and extremist channel videos on YouTube is heavily concentrated among a small group of people with high prior levels of gender and racial resentment. These viewers often subscribe to these channels (prompting recommendations to their videos) and follow external links to them. In contrast, non-subscribers rarely see or follow recommendations to videos from these channels. Our findings suggest YouTube's algorithms were not sending people down "rabbit holes" during our observation window in 2020, possibly due to changes that the company made to its recommender system in 2019. However, the platform continues to play a key role in facilitating exposure to content from alternative and extremist channels among dedicated audiences.

研究动机与目标

• 调查YouTube推荐系统与用户行为如何共同促成用户接触极端主义与替代性内容。
• 评估算法推荐（尤其是2019年后的调整）是否为主要驱动‘信息茧房’式内容暴露的因素。
• 考察用户订阅与外部链接在具有高度怨恨情绪的用户接触极端主义频道过程中的作用。
• 利用真实世界的行为数据，确定消费潜在有害内容的用户群体构成与行为特征。
• 通过整合调查数据与实际用户浏览记录及推荐日志，评估先前关于算法极端化的生态效度。

提出的方法

• 从1,181名美国参与者收集实时浏览器扩展数据，记录其浏览历史、视频观看记录、嵌入URL的暴露情况，以及与YouTube及其他平台的互动行为。
• 收集并分析YouTube显示的视频推荐元数据，包括时间戳与内容类型，以绘制用户的内容暴露路径。
• 基于浏览行为推断用户频道订阅情况，并据此对推荐暴露与内容消费进行分层分析。
• 整合关于人口统计、政治态度与媒体偏好的调查数据，将用户怨恨情绪（性别与种族层面）与内容消费模式进行关联分析。
• 依据先前研究定义‘信息茧房’事件标准，测量算法驱动极端化路径的普遍性。
• 使用加权调查数据，确保样本在关键人口统计与态度变量上能代表美国成年总体。

实验结果

研究问题

• RQ1 具有高度性别与种族怨恨情绪的用户在多大程度上接触到替代性与极端主义YouTube内容？
• RQ2 与算法推荐相比，订阅行为与外部链接在影响极端主义内容访问方面起到何种作用？
• RQ3 YouTube在2019年调整算法后，是否降低了导致边缘或有害内容推荐的普遍性？
• RQ4 相较于被动的算法推荐，用户主动行为（如订阅、点击链接）在极端主义内容暴露中扮演何种角色？
• RQ5 在2019年之后，‘信息茧房’事件（即一系列导向极端主义内容的推荐序列）在美国家YouTube用户中是否普遍？

主要发现

• 对替代性与极端主义YouTube内容的接触高度集中于一小部分具有高度预先存在的性别与种族怨恨情绪的用户。
• 订阅极端主义频道的用户显著更可能接收到并参与互动这些频道的推荐内容，而未订阅者极少看到此类推荐。
• 主流或相关媒体内容中的外部链接是通向极端主义频道的主要路径，尤其对已有怨恨意识形态倾向的用户而言。
• 尽管YouTube在2019年调整算法后减少了对边缘内容的推荐，平台仍通过用户主动行为而非算法推送促成内容暴露。
• 本研究在2020年未发现算法‘信息茧房’的有力证据，表明该时期推荐系统并非极端化的主因。
• 订阅与外部链接的结合形成一个自我强化的生态系统，使用户即使在缺乏算法放大作用的情况下，仍能实现对极端主义内容的针对性暴露。