[论文解读] Fairness and Bias in Algorithmic Hiring: a Multidisciplinary Survey

Alessandro Fabris, Nina Baranowska+6 more|arXiv (Cornell University)|Sep 25, 2023

Ethics and Social Impacts of AI被引用 6

一句话总结

本多学科综述对算法招聘中的公平性与偏见提供了全面、整合的分析，综合了系统、偏见、公平性度量、缓解策略、数据集及法律框架。该综述为从业者和研究人员提供了平衡、具备情境意识的指南，以减少偏见并推动公平、可信的招聘技术发展。

ABSTRACT

Employers are adopting algorithmic hiring technology throughout the recruitment pipeline. Algorithmic fairness is especially applicable in this domain due to its high stakes and structural inequalities. Unfortunately, most work in this space provides partial treatment, often constrained by two competing narratives, optimistically focused on replacing biased recruiter decisions or pessimistically pointing to the automation of discrimination. Whether, and more importantly what types of, algorithmic hiring can be less biased and more beneficial to society than low-tech alternatives currently remains unanswered, to the detriment of trustworthiness. This multidisciplinary survey caters to practitioners and researchers with a balanced and integrated coverage of systems, biases, measures, mitigation strategies, datasets, and legal aspects of algorithmic hiring and fairness. Our work supports a contextualized understanding and governance of this technology by highlighting current opportunities and limitations, providing recommendations for future work to ensure shared benefits for all stakeholders.

研究动机与目标

• 通过提供技术、法律和社会维度上公平性与偏见的平衡、整合的概述，解决算法招聘领域中的两极化论述。
• 识别并系统化招聘流程中促进偏见的因素（BCFs），包括劳动力市场、招聘实践以及技术领域的影响力。
• 为从业者提供可操作的偏见缓解与法律合规指导，特别是在欧盟和美国法规框架下。
• 整理并评估现有数据集、公平性度量与缓解技术，以支持可复现的研究。
• 突出关键的研究空白——尤其在数据多样性、敏感属性覆盖以及法律与技术对齐方面——并提出未来研究方向。

提出的方法

• 在计算机科学、法律和社会科学领域开展系统性文献综述，以映射算法招聘中的系统、偏见、公平性度量、缓解策略及数据集。
• 将促进偏见的因素（BCFs）按三个领域分类：劳动力市场结构、招聘实践以及技术设计与部署。
• 审查并统一公平性度量（如人口均等性、机会均等性、预测均等性）与缓解技术（如对抗性去偏、重加权、对抗性训练）。
• 评估15个以上公开可用的算法招聘研究数据集，评估其代表性、敏感属性覆盖范围及局限性。
• 分析欧盟（如《人工智能法案》）和美国的法律框架，识别数据隐私、非歧视与公平性研究之间的张力。
• 提出技术与政策建议，包括知识产权友好的审计协议，以及使用隐私保护技术（如多方计算、噪声注入）。

Figure 1. Stages of algorithmic hiring with the main tools (below) and bias conducive factors (above) tilting data against vulnerable groups, jointly with stereotypes and sensitive attribute proxies.

实验结果

研究问题

• RQ1 算法招聘流程中的关键偏见促成因素（BCFs）是什么？它们在劳动力市场、招聘和科技领域中如何产生？
• RQ2 现有公平性度量与缓解策略在现实招聘情境中的表现如何？它们在应对结构性不平等方面存在哪些局限性？
• RQ3 当前用于算法招聘研究的数据集在哪些方面存在重大缺陷，特别是地理、语言及敏感属性多样性方面？
• RQ4 像欧盟《人工智能法案》这样的法律框架如何支持或制约公平算法招聘系统的发展，特别是在处理特殊类别数据方面？
• RQ5 哪些多学科策略可以调和技术公平性、数据隐私与反歧视法律，以促进招聘算法的设计与治理？

主要发现

• 由于结构性不平等以及数据或设计选择的缺陷，算法招聘流程的每个阶段——从职位描述生成到简历解析和视频面试分析——都容易产生偏见。
• 当前的公平性度量往往更关注代理变量的减少，而非实质公平性，且许多缓解技术未能解决招聘中系统性歧视的根本原因。
• 研究中使用的大多数数据集在地理、语言以及残疾状况、性取向等敏感属性方面缺乏多样性，限制了公平性评估的有效性。
• 像欧盟《人工智能法案》这样的法律框架可能允许在高风险场景下有限处理敏感数据以实现去偏，但需要更广泛的例外条款，以支持公平的算法开发。
• 迫切需要知识产权友好的审计机制和隐私保护技术（如多方计算、噪声注入），以在不损害数据安全或商业利益的前提下实现透明度。
• 尽管研究日益增多，技术公平性与法律及伦理标准之间的对齐仍存在显著空白，特别是在平衡非歧视、隐私与人力资源技术中的创新方面。