[논문 리뷰] Fairness and Bias in Algorithmic Hiring: a Multidisciplinary Survey

Alessandro Fabris, Nina Baranowska외 6명|arXiv (Cornell University)|2023. 09. 25.

Ethics and Social Impacts of AI인용 수 6

한 줄 요약

이 다학제적 종합 조사에서는 알고리즘 기반 채용의 공정성과 편향에 대해 시스템, 편향, 공정성 측정 기준, 완화 전략, 데이터셋, 법적 프레임워크를 통합적으로 분석한다. 연구자와 실무자에게 편향을 줄이고 공정하고 신뢰할 수 있는 채용 기술을 발전시키는 데 균형 잡힌, 맥락 인식 기반의 안내를 제공한다.

ABSTRACT

Employers are adopting algorithmic hiring technology throughout the recruitment pipeline. Algorithmic fairness is especially applicable in this domain due to its high stakes and structural inequalities. Unfortunately, most work in this space provides partial treatment, often constrained by two competing narratives, optimistically focused on replacing biased recruiter decisions or pessimistically pointing to the automation of discrimination. Whether, and more importantly what types of, algorithmic hiring can be less biased and more beneficial to society than low-tech alternatives currently remains unanswered, to the detriment of trustworthiness. This multidisciplinary survey caters to practitioners and researchers with a balanced and integrated coverage of systems, biases, measures, mitigation strategies, datasets, and legal aspects of algorithmic hiring and fairness. Our work supports a contextualized understanding and governance of this technology by highlighting current opportunities and limitations, providing recommendations for future work to ensure shared benefits for all stakeholders.

연구 동기 및 목표

• 기술적, 법적, 사회적 차원에서 공정성과 편향에 대한 균형 잡힌 통합 개요를 제공하여 알고리즘 기반 채용에 대한 극단화된 논의를 다루는 것.
• 채용 프로세스 전반에서 편향을 유도하는 요인(BCF)을 식별하고 체계화하는 것—노동시장, 채용 관행, 기술 부문의 영향 포함.
• 특히 유럽연합 및 미국의 규정을 준수하는 데 중점을 두고 실무자에게 실행 가능한 편향 완화 및 법적 준수 가이드라인을 제공하는 것.
• 재현 가능한 연구를 지원하기 위해 기존 데이터셋, 공정성 측정 기준, 완화 기법을 종합하고 평가하는 것.
• 특히 데이터 다양성, 민감한 속성 커버리지, 법적-기술적 일치성 측면에서의 주요 연구 격차를 부각하고 향후 방향을 제안하는 것.

제안 방법

• 컴퓨터 과학, 법학, 사회과학 분야에서 체계적인 문헌 리뷰를 수행하여 알고리즘 기반 채용의 시스템, 편향, 공정성 측정 기준, 완화 전략, 데이터셋을 맵핑하는 것.
• 노동시장 구조, 채용 관행, 기술 설계 및 구현의 세 영역에서 편향을 유도하는 요인(BCF)을 분류하는 것.
• 공정성 지표(예: 인구 비율 균형, 동등한 기회, 예측 정확도 균형)와 완화 기법(예: 적대적 디비어싱, 재가중, 적대적 훈련)을 검토하고 통합하는 것.
• 15개 이상의 공개된 데이터셋을 평가하여 그 대표성, 민감한 속성 커버리지, 한계를 분석하는 것.
• 유럽연합(예: AI 법)과 미국의 법적 프레임워크를 분석하여 데이터 프라이버시, 차별 금지, 공정성 연구 간 갈등을 규명하는 것.
• 특허 친화적인 감사 프로토콜과 프라이버시 보존 기법(예: 다자간 계산, 노이즈 주입)을 포함한 기술적 및 정책적 권고안을 제안하는 것.

Figure 1. Stages of algorithmic hiring with the main tools (below) and bias conducive factors (above) tilting data against vulnerable groups, jointly with stereotypes and sensitive attribute proxies.

실험 결과

연구 질문

• RQ1 알고리즘 기반 채용 프로세스에서 주요 편향을 유도하는 요인(BCF)은 무엇이며, 노동시장, 채용, 기술 분야에서 어떻게 발생하는가?
• RQ2 기존의 공정성 측정 기준과 완화 전략은 실제 채용 환경에서 어떻게 작동하는가? 그리고 체계적 불평등을 해결하는 데에 어떤 한계를 지닌다?
• RQ3 현재 알고리즘 기반 채용 연구에 사용되는 주요 데이터셋에서 지리적, 언어적, 민감한 속성의 다양성 측면에서 어떤 격차가 있는가?
• RQ4 유럽연합 AI 법과 같은 법적 프레임워크는 특별 카테고리 데이터 처리를 고려할 때 공정한 알고리즘 기반 채용 시스템 개발을 어떻게 지원하거나 제약할 수 있는가?
• RQ5 기술적 공정성, 데이터 프라이버시, 차별 금지법을 조화시킬 수 있는 다학제적 전략은 무엇인가?

주요 결과

• 직무 설명 생성에서 이력서 분석, 영상 인터뷰 분석에 이르기까지 알고리즘 기반 채용 프로세스 전반에서 체계적 불평등과 잘못된 데이터 또는 설계 선택으로 인해 편향이 발생할 수 있다.
• 현재의 공정성 측정 기준은 대체로 대체 지표 감소를 우선시하지만, 대부분의 완화 기법은 고용에서의 체계적 차별의 근본 원인을 해결하지 못한다.
• 연구에 사용되는 대부분의 데이터셋은 지리적, 언어적, 장애 상태, 성적 지향 등 민감한 속성의 다양성이 부족하여 공정성 평가의 타당성을 제한한다.
• 유럽연합 AI 법과 같은 법적 프레임워크는 고위험 상황에서 편향 완화를 위한 민감한 데이터 처리를 제한적으로 允허할 수 있지만, 공정한 알고리즘 개발을 가능하게 하기 위해 더 넓은 예외 조항이 필요하다.
• 특허 보호를 고려한 감사 메커니즘과 프라이버시 보존 기법(예: 다자간 계산, 노이즈 주입)이 필요로 하며, 이는 데이터 보안이나 상업적 이해관계을 훼손하지 않으면서도 투명성을 확보할 수 있도록 한다.
• 연구가 증가하고 있음에도 불구하고, 특히 비차별, 프라이버시, 혁신을 균형 있게 유지하는 데 있어 기술적 공정성과 법적·윤리적 기준을 조율하는 데 있어 여전히 큰 격차가 존재한다.