[论文解读] Analyzing Right-wing YouTube Channels: Hate, Violence and Discrimination

Raphael Ottoni, Evandro Cunha+4 more|arXiv (Cornell University)|Apr 11, 2018

Hate Speech and Cyberbullying Detection参考文献 32被引用 43

一句话总结

本论文通过将字幕与评论与基线数据集进行比较，结合词汇、主题和隐性偏见分析，研究右翼 YouTube 内容中的仇恨、暴力和歧视性偏见。研究发现右翼频道存在更高的负面语言和针对穆斯林的特定偏见，评论者往往比视频主持人更极端。

ABSTRACT

As of 2018, YouTube, the major online video sharing website, hosts multiple channels promoting right-wing content. In this paper, we observe issues related to hate, violence and discriminatory bias in a dataset containing more than 7,000 videos and 17 million comments. We investigate similarities and differences between users' comments and video content in a selection of right-wing channels and compare it to a baseline set using a three-layered approach, in which we analyze (a) lexicon, (b) topics and (c) implicit biases present in the texts. Among other results, our analyses show that right-wing channels tend to (a) contain a higher degree of words from "negative" semantic fields, (b) raise more topics related to war and terrorism, and (c) demonstrate more discriminatory bias against Muslims (in videos) and towards LGBT people (in comments). Our findings shed light not only into the collective conduct of the YouTube community promoting and consuming right-wing content, but also into the general behavior of YouTube users.

研究动机与目标

• 调查一组右翼 YouTube 频道中的仇恨词汇、暴力内容和歧视性偏见。
• 在右翼频道内对字幕和评论进行比较，并与基线频道集进行比较。
• 提出一个三层方法论（词汇、主题、隐性偏见），使用开源工具进行文本分析。
• 就 YouTube 主播和评论者在仇恨和歧视方面的行为提供见解。

提出的方法

• 三层方法：词汇分析、主题分析和隐性偏见分析。
• 词汇：将词汇映射到 Empath 语义域；词形归一化；为每个视频和频道计算标准化类别向量；通过余弦相似性测量字幕与评论的相似性。
• 主题：对字幕和评论应用 Latent Dirichlet Allocation (LDA) 以识别潜在主题；使用 300 个主题，alpha=beta=1.0/num_topics。
• 隐性偏见：使用基于 word2vec 在维基百科和领域数据上训练的嵌入构建 Word Embedding Association Tests (WEAT)；通过置换检验计算效应量（Cohen’s d）和 p 值。
• 数据：收集 3,731 条右翼视频和 5,071,728 条评论；基线：3,942 条视频和 12,519,590 条评论；用于分析的英语过滤子集。

实验结果

研究问题

• RQ1 RQ-1：仇恨词汇、暴力内容和歧视性偏见在右翼频道比基线频道更突出吗？
• RQ2 RQ-2：评论者在表达仇恨和歧视方面是否比视频主持人更严重？

主要发现

• 右翼频道相较基线频道显示出负面语义领域的更高比率（例如攻击、杀戮、暴力）。
• 右翼字幕中的主题强调战争/恐怖主义和信息战；基线主题更广泛（名人、电视节目等）。
• 隐性偏见分析显示对穆斯林的偏见在字幕中更强，而对 LGBT 群体的偏见相对多样化；基线偏见相对维基百科在某些情况下被放大。
• 评论者通常比视频主持人表现出更高水平的与仇恨相关的语言（厌恶、仇恨、骂人）在许多情况下。
• 字幕与评论之间的相似度因频道而异；更受欢迎的频道往往显示更高的字幕-评论相似度。