[论文解读] "And We Will Fight For Our Race!" A Measurement Study of Genetic Testing Conversations on Reddit and 4chan

Alexandros Mittos, Savvas Zannettou+2 more|arXiv (Cornell University)|Jan 28, 2019

Hate Speech and Cyberbullying Detection被引用 4

一句话总结

本研究基于27个月期间从Reddit和4chan的/pol/版面收集的130万条评论，使用280个与基因检测相关的关键词，结合自然语言处理（NLP）、计算机视觉和毒性检测技术，发现基因检测在有毒、种族主义和厌女语境中被频繁讨论，尤其在/pol/版面，其与另类右翼意识形态、反犹太主义迷因及种族纯洁论主张密切相关。研究结果表明，基因检测话语与极右翼极端主义存在强烈关联，词嵌入与图像分析揭示了从边缘平台向主流平台传播的意识形态污染。

ABSTRACT

Progress in genomics has enabled the emergence of a booming market for "direct-to-consumer" genetic testing. Nowadays, companies like 23andMe and AncestryDNA provide affordable health, genealogy, and ancestry reports, and have already tested tens of millions of customers. At the same time, alt- and far-right groups have also taken an interest in genetic testing, using them to attack minorities and prove their genetic "purity." In this paper, we present a measurement study shedding light on how genetic testing is being discussed on Web communities in Reddit and 4chan. We collect 1.3M comments posted over 27 months on the two platforms, using a set of 280 keywords related to genetic testing. We then use NLP and computer vision tools to identify trends, themes, and topics of discussion. Our analysis shows that genetic testing attracts a lot of attention on Reddit and 4chan, with discussions often including highly toxic language expressed through hateful, racist, and misogynistic comments. In particular, on 4chan's politically incorrect board (/pol/), content from genetic testing conversations involves several alt-right personalities and openly antisemitic rhetoric, often conveyed through memes. Finally, we find that discussions build around user groups, from technology enthusiasts to communities promoting fringe political views.

研究动机与目标

• 调查Reddit和4chan等在线平台上基因检测讨论的普遍性及其毒性。
• 检验基因检测是否与在线话语中的极右翼意识形态、仇恨言论及白人至上主义相关。
• 识别将基因检测与种族主义及厌女言论联系起来的具体主题、语言模式和视觉内容（例如迷因）。
• 评估4chan等平台上的边缘意识形态在多大程度上影响或渗透至更广泛的在线社区，包括主流subreddits。
• 为直接面向消费者（DTC）基因检测被滥用于推动基于基因的偏见与歧视提供量化证据。

提出的方法

• 使用280个与基因检测相关的术语集合，从4chan的/pol/版面和77,000条Reddit评论中收集130万条评论。
• 应用潜在狄利克雷分布（LDA）以识别讨论中的主导主题与核心议题。
• 使用词嵌入技术检测Reddit与/pol/之间在语言使用上的语义相似性，尤其关注与民族和种族相关的术语。
• 利用Google的Perspective API测量评论中文本内容的毒性。
• 采用感知哈希技术检测并分析重复出现的图像与迷因，特别是反犹太主义和另类右翼图像。
• 结合定量分析与定性解读，追踪意识形态模式及跨平台影响。

实验结果

研究问题

• RQ1 Reddit和4chan上的基因检测话语总体普遍性如何？
• RQ2 用户在何种语境下讨论基因检测？这些语境在不同平台和社区之间有何差异？
• RQ3 在线讨论中，基因检测是否与极右翼观点、种族主义意识形态、仇恨言论和/或白人至上主义相关？
• RQ4 如果是，这些关联在哪些具体语境中浮现？其特征主题或语言模式是什么？
• RQ5 4chan的/pol/版面中的边缘意识形态在多大程度上影响或蔓延至主流Reddit社区？

主要发现

• /pol/版面中基因检测话语的活跃度比随机样本高出一个数量级，表明极右翼社群对此有不成比例的关注。
• 4chan的/pol/讨论中普遍存在有毒语言，包括种族主义、厌女主义及种族灭绝言论，用户将基因检测视为实施种族边缘化或清除的工具。
• /pol/版面中与基因检测内容一同分享的图像频繁出现另类右翼人物及广泛传播的反犹太主义迷因，强化了意识形态叙事。
• 词嵌入分析显示，/pol/与某些仇恨言论类subreddits在语言模式上具有相似性，表明意识形态从边缘平台向主流平台发生污染。
• 在Reddit上，尽管部分社区讨论基因检测用于健康与文化血统，但其他社区则宣扬种族主义与性别歧视意识形态，表明该技术在在线话语中具有双重用途。
• 本研究提供了量化证据，表明DTC基因检测正被在线空间武器化，以推动基于基因的偏见，对社会造成潜在危害，并凸显平台责任。