[论文解读] Generating Clues for Gender based Occupation De-biasing in Text

Nishtha Madaan, Gautam B. Singh+3 more|arXiv (Cornell University)|Apr 11, 2018

Natural Language Processing Techniques参考文献 9被引用 6

一句话总结

本文提出了一种人机协同系统，能够检测文本中与性别刻板印象相关的职业关联，并通过检索用户指定地理区域和时间范围内相反性别的真实历史人物，生成上下文感知的反例证据。该系统通过呈现事实性示例，帮助写作者和开发者构建更具包容性的叙事内容，有效应对不同文化与时间背景下职业性别规范的差异。

ABSTRACT

Vast availability of text data has enabled widespread training and use of AI systems that not only learn and predict attributes from the text but also generate text automatically. However, these AI models also learn gender, racial and ethnic biases present in the training data. In this paper, we present the first system that discovers the possibility that a given text portrays a gender stereotype associated with an occupation. If the possibility exists, the system offers counter-evidences of opposite gender also being associated with the same occupation in the context of user-provided geography and timespan. The system thus enables text de-biasing by assisting a human-in-the-loop. The system can not only act as a text pre-processor before training any AI model but also help human story writers write stories free of occupation-level gender bias in the geographical and temporal context of their choice.

研究动机与目标

• 解决文本中普遍存在的一种性别偏见，即某些职业被刻板地与某一性别关联。
• 开发一种系统，用于识别叙事文本中的此类偏见，并从历史数据中提供事实性反例证据。
• 通过提供特定地区与时间范围内代表性不足性别的职业实例，支持人类作者与AI开发者创建性别包容性更强的叙事内容与训练数据。
• 构建一种对职业性别规范的文化与时间差异敏感的工具，突破单一模板式去偏方法的局限。

提出的方法

• 系统使用自然语言处理技术解析输入文本，提取命名实体及其关联的职业。
• 基于来自多个来源的996个人职业的整理数据集，将职业分类为性别特定或性别中性。
• 利用NLTK和CMU姓名数据库将姓名映射至性别，以推断命名实体的性别。
• 通过查询DBpedia，检索与用户指定时间范围和地理区域匹配的相反性别个体在该职业中的历史实例。
• 使用SPARQL查询提取符合标准的女性或男性人物的三元组信息，包括姓名、出生城市、出生日期和死亡日期。
• 检查检索到的个体生命周期与用户提供的时段是否存在时间重叠，以确保其相关性。

实验结果

研究问题

• RQ1 系统能否基于命名实体与职业的配对，在叙事文本中检测出潜在的性别刻板印象职业关联？
• RQ2 系统如何从历史数据中生成上下文相关的反例证据，以挑战职业性别刻板印象？
• RQ3 反例的存在程度在不同地理区域与时间周期中有多大差异？
• RQ4 此类系统能否有效支持人类作者修改叙事内容，以减少职业性别偏见？
• RQ5 系统输出对文化与时间背景的敏感性在多大程度上影响其在去偏叙事中的实用性？

主要发现

• 该系统成功识别出文本中的性别刻板印象职业关联，并根据用户定义的时间与地点，从历史数据中检索到相关反例证据。
• 在美国（1980–2000年），系统检索到多个女性医生的实例，表明在该语境下‘医生’这一职业并非固有地与男性关联。
• 在美国（1700–1800年），系统未找到相关女性医生，表明该职业在当时历史时期主要由男性主导，验证了系统对时间维度的敏感性。
• 在俄罗斯（1980–2000年），系统也未找到女性医生的反例，表明该地区的歷史背景影响了此类实例的可获得性。
• 系统表明，同一职业在不同地理与时间背景下可能被视为有偏见或中性，凸显了在去偏过程中保持上下文意识的重要性。