[论文解读] Intersectional Affirmative Action Policies for Top-k Candidates Selection

Giorgio Barnabò, Carlos Castillo+2 more|arXiv (Cornell University)|Jul 29, 2020

LGBTQ Health, Identity, and Policy参考文献 38被引用 4

一句话总结

本文提出了一种新颖的算法框架，用于top-k候选选择，通过整合交叉性正向行动（intersectional affirmative action）来减少由重叠属性（如种族、性别、社会经济地位）定义的弱势子群体之间的差异，同时保持所选候选人的高实用性。该方法利用动态规划与贪心优化，调整录取门槛，实现在交叉性类别间近乎平等的录取率，且仅导致平均候选人能力轻微下降——该效果已在某OECD国家的真实大学录取数据中得到验证。

ABSTRACT

We study the problem of selecting the top-k candidates from a pool of applicants, where each candidate is associated with a score indicating his/her aptitude. Depending on the specific scenario, such as job search or college admissions, these scores may be the results of standardized tests or other predictors of future performance and utility. We consider a situation in which some groups of candidates experience historical and present disadvantage that makes their chances of being accepted much lower than other groups. In these circumstances, we wish to apply an affirmative action policy to reduce acceptance rate disparities, while avoiding any large decrease in the aptitude of the candidates that are eventually selected. Our algorithmic design is motivated by the frequently observed phenomenon that discrimination disproportionately affects individuals who simultaneously belong to multiple disadvantaged groups, defined along intersecting dimensions such as gender, race, sexual orientation, socio-economic status, and disability. In short, our algorithm's objective is to simultaneously: select candidates with high utility, and level up the representation of disadvantaged intersectional classes. This naturally involves trade-offs and is computationally challenging due to the the combinatorial explosion of potential subgroups as more attributes are considered. We propose two algorithms to solve this problem, analyze them, and evaluate them experimentally using a dataset of university application scores and admissions to bachelor degrees in an OECD country. Our conclusion is that it is possible to significantly reduce disparities in admission rates affecting intersectional classes with a small loss in terms of selected candidate aptitude. To the best of our knowledge, we are the first to study fairness constraints with regards to intersectional classes in the context of top-k selection.

研究动机与目标

• 解决在top-k选择过程中，来自多个弱势群体的个体因多重歧视而遭受累积性不利影响的算法不公平问题。
• 设计一种数据驱动的政策，减少由交叉属性定义的子群体在录取率上的差异，同时不显著降低所选候选人的平均能力。
• 对由交叉属性定义的、呈指数级增长的子群体公平性管理问题进行建模与求解。
• 在现实世界大学录取系统中，评估公平性（代表性均等）与实用性（候选人能力）之间的权衡。
• 为高风险选择过程（如大学录取或工作招聘）提供一种有原则且可扩展的算法框架。

提出的方法

• 将问题形式化为一个约束优化问题，以在所有由受保护属性定义的交叉性子群体之间平衡实用性最大化与公平性。
• 引入一个加权目标函数，结合总实用性与交叉性类别间录取率的差异，配备可调节的权衡参数λ。
• 开发一种动态规划算法，以计算实现公平性-实用性权衡的最优阈值调整，具备最优性保证。
• 提出一种贪心启发式算法作为动态规划方法的可扩展替代方案，以牺牲部分最优性换取显著的速度提升。
• 将算法调整为排除申请人数少于三人交叉性类别的子群，以确保小样本子群的统计稳健性。
• 使用来自OECD国家的真实大学录取数据（包括标准化考试成绩、高中成绩和人口统计属性）进行算法模拟与评估。

实验结果

研究问题

• RQ1 交叉性正向行动政策是否能显著减少由重叠受保护属性定义的子群体在录取率上的差异？
• RQ2 在不造成所选候选人平均能力显著下降的前提下，公平性在交叉性类别间可提升到何种程度？
• RQ3 在现实场景中，不同算法方法（动态规划 vs. 贪心）在公平性、实用性与计算效率方面的表现如何比较？
• RQ4 在项目层面实施正向行动与采用集中式单轨系统相比，对公平性与实用性权衡的影响有何不同？
• RQ5 当申请者池中交叉性类别的样本量较小时，公平性结果的稳定性如何？

主要发现

• 所提出的算法在由社会经济地位、高中类型和区域发展水平定义的全部12个交叉性类别中实现了近乎均等的录取率，平均录取分数仅下降1至2分。
• 在单轨设置中，实用性仅下降1或2分，即可显著降低平均录取率差异，图4的y轴显示差异呈对数下降趋势。
• 贪心算法比动态规划方法快几个数量级，尽管仅在一个配置（单轨、30%录取率、λ=0）中未能找到最优解。
• 在个别项目中，为实现公平性而需牺牲的实用性低于集中式设置，原因在于录取率基线差异较小。
• 在个别项目应用中，仅最特权群体（如1Aa）和最弱势群体（如3Bb）通常会看到录取分数与差异的变化，表明公平性调整具有针对性。
• 即使排除申请人数少于三人的交叉性类别，该方法仍保持稳健，确保在多样化现实场景中实现稳定且有意义的公平性结果。