[论文解读] Closing the Gender Wage Gap: Adversarial Fairness in Job Recommendation

Clara Rus, Jeffrey Luppes+2 more|arXiv (Cornell University)|Sep 20, 2022

Hate Speech and Cyberbullying Detection被引用 8

一句话总结

本文提出了一种从职位空缺和简历文本中对word2vec嵌入进行对抗性去偏的方法，以减少职位推荐中的基于性别的薪酬差异。通过使用生成对抗网络最小化从嵌入中预测性别的能力，同时保留与职位相关的特征，该方法将女性与男性之间的平均年薪差距从1,680欧元减少至180欧元，实现了统计上的平等，且未牺牲推荐性能。

ABSTRACT

The goal of this work is to help mitigate the already existing gender wage gap by supplying unbiased job recommendations based on resumes from job seekers. We employ a generative adversarial network to remove gender bias from word2vec representations of 12M job vacancy texts and 900k resumes. Our results show that representations created from recruitment texts contain algorithmic bias and that this bias results in real-world consequences for recommendation systems. Without controlling for bias, women are recommended jobs with significantly lower salary in our data. With adversarially fair representations, this wage gap disappears, meaning that our debiased job recommendations reduce wage discrimination. We conclude that adversarial debiasing of word representations can increase real-world fairness of systems and thus may be part of the solution for creating fairness-aware recommendation systems.

研究动机与目标

• 调查招聘文本嵌入中的性别偏见是否会导致不公平的职位推荐和薪酬差异。
• 评估对抗性去偏方法在工业规模职位推荐系统中缓解性别偏见的有效性。
• 评估去偏表示是否在减少薪酬推荐中的不公平结果的同时，保留了与任务相关的信息。
• 证明对抗性公平性可带来可衡量的、现实世界中的公平性改进，应用于自动化招聘系统。

提出的方法

• 在1,200万条匿名职位空缺文本上训练300维的word2vec模型，以生成文档级嵌入。
• 采用生成对抗网络（GAN）框架，其中生成器生成去偏表示，判别器尝试从这些表示中预测性别。
• 通过损失函数优化生成器，该损失函数在公平性（最小化性别预测AUC）和效用（最大化行业组分类准确率）之间取得平衡。
• 使用超参数α和β控制公平性与性能之间的权衡，应用对抗性训练过程。
• 在基于简历与职位空缺嵌入之间余弦相似度的职位推荐系统中评估所得嵌入。
• 由于计算资源限制，采用固定的数据划分进行模型训练，并在多标签行业组分类任务上验证性能。

实验结果

研究问题

• RQ1 从招聘文本中提取的词嵌入是否存在性别偏见，是否会导致职位推荐中可测量的薪酬差距？
• RQ2 对抗性去偏方法是否能有效减少职位推荐中的基于性别的差异，同时不降低任务性能？
• RQ3 与原始有偏嵌入相比，去偏表示在职位匹配方面保留相关信息的程度如何？
• RQ4 对抗性去偏带来的公平性改进是否反映在现实结果中，例如薪酬平等？
• RQ5 在多标签分类设置中，公平性与预测性能之间的权衡如何体现？

主要发现

• 原始word2vec嵌入表现出强烈的性别偏见，性别预测AUC达到0.94，表明性别可从文本表示中高度可预测。
• 对抗性去偏方法将性别预测AUC降低至0.82，显著降低了模型从嵌入中推断性别的能力。
• 女性与男性识别的求职者之间的年均薪酬差距从1,680欧元减少至180欧元，差距缩小了89%。
• 统计平等性得到改善，去偏后薪酬差距在统计上不再显著，表明推荐结果更加公平。
• 在行业组分类任务上的表现依然强劲，准确率达到0.89，表明与职位相关的信息得以保留。
• 该方法提高了两组的平均薪酬，女性群体的相对增幅更大，避免了以牺牲某一性别群体为代价实现公平性的权衡。