[논문 리뷰] Intersectional Affirmative Action Policies for Top-k Candidates Selection

Giorgio Barnabò, Carlos Castillo외 2명|arXiv (Cornell University)|2020. 07. 29.

LGBTQ Health, Identity, and Policy참고 문헌 38인용 수 4

한 줄 요약

이 논문은 보호되는 특성(예: 인종, 성별, 사회경제적 지위)의 겹침으로 정의되는 차별받는 하위군 간 격차를 줄이기 위해 상호배타적 정책을 통합한 최상위-k 후보자 선정을 위한 새로운 알고리즘 프레임워크를 제안한다. 이는 선택된 후보자의 유틸리티를 유지하면서도 실질적인 성과를 달성한다. 동적 프로그래밍과 탐욕적 최적화를 사용하여, 평균 후보자 능력의 감소를 최소화하면서도 상호배타적 집단 간 수용률의 근접한 평등을 달성하기 위해 입학 기준을 조정한다. 이는 OECD 소속 국가의 실제 대학 입학 데이터를 통해 입증되었다.

ABSTRACT

We study the problem of selecting the top-k candidates from a pool of applicants, where each candidate is associated with a score indicating his/her aptitude. Depending on the specific scenario, such as job search or college admissions, these scores may be the results of standardized tests or other predictors of future performance and utility. We consider a situation in which some groups of candidates experience historical and present disadvantage that makes their chances of being accepted much lower than other groups. In these circumstances, we wish to apply an affirmative action policy to reduce acceptance rate disparities, while avoiding any large decrease in the aptitude of the candidates that are eventually selected. Our algorithmic design is motivated by the frequently observed phenomenon that discrimination disproportionately affects individuals who simultaneously belong to multiple disadvantaged groups, defined along intersecting dimensions such as gender, race, sexual orientation, socio-economic status, and disability. In short, our algorithm's objective is to simultaneously: select candidates with high utility, and level up the representation of disadvantaged intersectional classes. This naturally involves trade-offs and is computationally challenging due to the the combinatorial explosion of potential subgroups as more attributes are considered. We propose two algorithms to solve this problem, analyze them, and evaluate them experimentally using a dataset of university application scores and admissions to bachelor degrees in an OECD country. Our conclusion is that it is possible to significantly reduce disparities in admission rates affecting intersectional classes with a small loss in terms of selected candidate aptitude. To the best of our knowledge, we are the first to study fairness constraints with regards to intersectional classes in the context of top-k selection.

연구 동기 및 목표

• 다중 차별받는 집단에 속한 개인이 누적적으로 불리한 영향을 받는 최상위-k 선정 과정에서의 알고리즘적 불공평성을 해결하기 위해.
• 선택된 후보자의 평균 능력이 크게 떨어지지 않도록 하면서도 상호배타적 집단 간 입학률 격차를 줄이는 데이터 기반 정책을 설계하기 위해.
• 교차 속성에 의해 정의되는 기하급수적으로 증가하는 하위군 간 공정성 관리라는 조합 최적화 문제를 모델링하고 해결하기 위해.
• 실제 대학 입학 시스템에서 공정성(대표성 평등)과 유틸리티(후보자 능력) 간의 상호 교환 관계를 평가하기 위해.
• 대학 입학 또는 채용과 같은 고위험 선정 과정에 적용 가능한 원칙적이고 확장 가능한 알고리즘 프레임워크를 제공하기 위해.

제안 방법

• 보호된 특성에 의해 정의된 모든 상호배타적 하위군 간 유틸리티 최대화와 공정성 균형을 고려한 제약 조건이 있는 최적화 문제를 수립한다.
• 전체 유틸리티와 상호배타적 집단 간 입학률 격차를 조합한 가중치가 부여된 목적 함수를 도입하며, 조정 가능한 트레이드오프 파라미터 λ를 포함한다.
• 공정성-유틸리티 트레이드오프를 달성하기 위한 최적의 기준 조정을 보장하는 동적 프로그래밍 알고리즘을 개발한다.
• 최적성은 포기하지만 성능 향상이著명한 탐욕적 히우리스틱을 제안하여 동적 프로그래밍 접근법의 확장성을 높인다.
• 작은 하위군에서의 통계적 안정성을 확보하기 위해 3명 미만의 지원자 수를 가진 상호배타적 집단은 제외하도록 알고리즘을 조정한다.
• 실제 OECD 소속 국가의 대학 입학 데이터(표준화된 시험 점수, 고교 성적, 인구통계적 특성 포함)를 활용하여 알고리즘을 시뮬레이션하고 평가한다.

실험 결과

연구 질문

• RQ1 상호배타적 보호 특성의 겹침으로 정의된 하위군 간 입학률 격차를 상호배타적 정책이 유의미하게 줄일 수 있는가?
• RQ2 선택된 후보자의 평균 능력이 상당히 감소하지 않도록 하면서도 공정성은 어느 정도 향상시킬 수 있는가?
• RQ3 실제 환경에서 동적 프로그래밍 대비 탐욕적 접근법이 공정성, 유틸리티 및 계산 효율성 측면에서 어떻게 비교되는가?
• RQ4 프로그램 수준에서의 정책 적용과 단일 중심화된 시스템 간의 공정성-유틸리티 트레이드오프에 어떤 영향을 미치는가?
• RQ5 지원자 풀에서 상호배타적 집단의 표본 수가 작을 경우 공정성 결과는 얼마나 안정적인가?

주요 결과

• 제안된 알고리즘은 사회경제적 지위, 고교 유형, 지역 발전 수준로 정의된 12개의 상호배타적 집단 간에 거의 평등한 입학률을 달성하며, 평균 입학 점수는 1~2점 감소하는 데 그친다.
• 단일 트랙 설정에서 유틸리티 감소가 단 1~2점일 경우에도 평균 입학률 격차가 극적으로 감소하며, 그림 4의 y축은 격차 감소의 로그적 감소를 보여준다.
• 탐욕적 알고리즘은 동적 프로그래밍 방법보다 수십만 배 이상 빠르며, 유일하게 최적해를 찾지 못한 경우는 단일 트랙, 30% 입학률, λ=0 설정일 때 뿐이었다.
• 개별 프로그램의 경우, 중앙 집중식 설정 대비 공정성을 달성하기 위한 유틸리티 기여가 더 작다. 이는 입학률 격차의 기저 수준이 낮기 때문이다.
• 개별 프로그램 적용에서는 주로 가장 유리한 집단(예: 1Aa)과 가장 열악한 집단(예: 3Bb)에서 입학 점수와 격차에 변화가 나타나며, 이는 정확한 공정성 조정을 의미한다.
• 3명 미만의 지원자 수를 가진 상호배타적 집단을 제외하더라도 메서드는 안정적이고 의미 있는 공정성 결과를 유지하며, 다양한 실세계 시나리오에서 유연성을 보인다.