[论文解读] Discovering and Categorising Language Biases in Reddit

Xavier Ferrer, Tom van Nuenen+2 more|arXiv (Cornell University)|Aug 6, 2020

Hate Speech and Cyberbullying Detection被引用 6

一句话总结

本文提出一种数据驱动方法，利用词嵌入技术在不依赖预定义偏见术语的前提下，发现并分类Reddit社区中的语言偏见——如性别、宗教和种族偏见。通过聚类有偏见的词汇并应用语义分析，该方法识别出社区特有的偏见，成功检测到 /r/TheRedPill 和 /r/dating_advice 中的性别偏见，/r/atheism 中的宗教偏见，以及 /r/The_Donald 中的种族偏见。

ABSTRACT

We present a data-driven approach using word embeddings to discover and categorise language biases on the discussion platform Reddit. As spaces for isolated user communities, platforms such as Reddit are increasingly connected to issues of racism, sexism and other forms of discrimination. Hence, there is a need to monitor the language of these groups. One of the most promising AI approaches to trace linguistic biases in large textual datasets involves word embeddings, which transform text into high-dimensional dense vectors and capture semantic relations between words. Yet, previous studies require predefined sets of potential biases to study, e.g., whether gender is more or less associated with particular types of jobs. This makes these approaches unfit to deal with smaller and community-centric datasets such as those on Reddit, which contain smaller vocabularies and slang, as well as biases that may be particular to that community. This paper proposes a data-driven approach to automatically discover language biases encoded in the vocabulary of online discourse communities on Reddit. In our approach, protected attributes are connected to evaluative words found in the data, which are then categorised through a semantic analysis system. We verify the effectiveness of our method by comparing the biases we discover in the Google News dataset with those found in previous literature. We then successfully discover gender bias, religion bias, and ethnic bias in different Reddit communities. We conclude by discussing potential application scenarios and limitations of this data-driven bias discovery method.

研究动机与目标

• 填补在Reddit等社交媒体平台中检测社区特异性语言偏见的空白，因为传统偏见检测依赖于预定义术语。
• 开发一种通用的、数据驱动的方法，仅通过特定子版块的词汇和话语模式来发现偏见。
• 在不预先假设评价性语言的前提下，实现对受保护属性（如性别、宗教和种族）的偏见发现。
• 在应用到较小规模、以社区为中心的Reddit数据集之前，先在大规模语料库（Google News）上验证该方法。
• 提供一种可扩展且模块化的框架，用于识别和分类在线话语社区中的语言偏见。

提出的方法

• 在子版块特定的文本语料上训练词嵌入，以捕捉社区语言中的语义关系和偏见模式。
• 使用词嵌入之间的余弦相似度识别最偏向受保护属性（如性别、宗教、种族）的词汇。
• 应用k-means聚类，根据嵌入相似性将有偏见的词汇聚类为语义一致的簇。
• 采用语义分析系统为簇分配有意义的概念（例如，“犯罪性”、“缺乏吸引力”、“纯洁性”）。
• 利用情感极性分数进一步刻画簇内有偏见词汇的评价倾向（正面/负面）。
• 在将方法应用于Reddit子版块之前，先在Google News数据集上进行验证，以确保其可靠性和一致性。

实验结果

研究问题

• RQ1 如何在不依赖预定义评价性术语的前提下，发现在线话语社区中针对受保护属性的语言偏见？
• RQ2 词嵌入与聚类在具有不同词汇和俚语的子版块中，能在多大程度上揭示社区特异性的偏见？
• RQ3 该方法能否成功检测并分类真实Reddit社区中的性别、宗教和种族偏见？
• RQ4 具有不同意识形态取向的子版块中，有偏见词汇的语义簇有何差异？
• RQ5 情感极性在细化社区话语中偏见语言的特征刻画中起到何种作用？

主要发现

• 该方法成功识别出 /r/TheRedPill 和 /r/dating_advice 中的性别偏见，其聚类中心围绕“有毒男性气质”和“情感疏离”等特质。
• 在 /r/atheism 中检测到宗教偏见，其中与“罪恶”、“伪善”和“道德腐败”相关的词汇被关联到宗教群体。
• 在 /r/The_Donald 中发现了种族偏见，其聚类显示非白人群体与“犯罪性”、“法律与秩序”以及“阴谋策划”等术语存在负面关联。
• 该方法揭示出，子版块中许多有偏见的术语本身并不具有固有负面性，而是通过语境和社区特异性使用方式变得具有偏见。
• 针对白人姓名的偏见簇中，对“缺乏吸引力”或“肥胖”等污名化标签的使用极少，表明不同社区存在截然不同的偏见模式。
• 该方法通过在Google News数据集中复现已知的偏见模式，展现出强大的有效性，证实了其在现实世界应用前的可靠性。