[論文レビュー] What does it mean to solve the problem of discrimination in hiring? Social, technical and legal perspectives from the UK on automated hiring systems

Javier Sánchez‐Monedero, Lina Dencik+1 more|arXiv (Cornell University)|Sep 28, 2019

Digital Economy and Work Transformation被引用数 35

ひとこと要約

本論文は、英国で使用されている自動化採用システム三つ（HireVue、Pymetrics、Applied）を批判的に検討し、英国の法的文脈の下で偏見緩和を設計・検証・監査する方法を分析する。

ABSTRACT

The ability to get and keep a job is a key aspect of participating in society and sustaining livelihoods. Yet the way decisions are made on who is eligible for jobs, and why, are rapidly changing with the advent and growth in uptake of automated hiring systems (AHSs) powered by data-driven tools. Key concerns about such AHSs include the lack of transparency and potential limitation of access to jobs for specific profiles. In relation to the latter, however, several of these AHSs claim to detect and mitigate discriminatory practices against protected groups and promote diversity and inclusion at work. Yet whilst these tools have a growing user-base around the world, such claims of bias mitigation are rarely scrutinised and evaluated, and when done so, have almost exclusively been from a US socio-legal perspective. In this paper, we introduce a perspective outside the US by critically examining how three prominent automated hiring systems (AHSs) in regular use in the UK, HireVue, Pymetrics and Applied, understand and attempt to mitigate bias and discrimination. Using publicly available documents, we describe how their tools are designed, validated and audited for bias, highlighting assumptions and limitations, before situating these in the socio-legal context of the UK. The UK has a very different legal background to the US in terms not only of hiring and equality law, but also in terms of data protection (DP) law. We argue that this might be important for addressing concerns about transparency and could mean a challenge to building bias mitigation into AHSs definitively capable of meeting EU legal standards. This is significant as these AHSs, especially those developed in the US, may obscure rather than improve systemic discrimination in the workplace.

研究の動機と目的

• AHSが保護対象グループに対する差別を検出・緩和すると主張する方法を評価する。
• HireVue、Pymetrics、Applied が偏見に対してどのように設計・検証・監査されているかを説明する。
• 英国の社会的・法的・データ保護の枠組みの中で偏見緩和の実践を位置づける。

提案手法

• HireVue、Pymetrics、Applied の三つの自動化採用システムに公開されている文書を調査する。
• 各ツールが偏見に対してどのように設計・検証・監査されているかを説明する。
• 偏見緩和アプローチの前提と限界を分析する。
• 英国の平等・採用・データ保護法の文脈の中で知見を位置づける。

実験結果

リサーチクエスチョン

• RQ1 英国で広く使用されている三つの主要なAHSは、偏見と差別をどのように理解し、緩和しようとしているのか？
• RQ2 これらの AHS の偏見緩和手法の前提と限界は何か？
• RQ3 英国の社会・法的文脈は、AHS の偏見緩和における透明性と EU のデータ保護基準の適合性にどのように影響するか？
• RQ4 米国で開発された AHS が英国で運用される場合、組織的な差別を隠蔽する可能性はあるか？
• RQ5 英国法の下での自動化採用における透明性と公平性への影響は何か？

主な発見

• AHS は偏見を検出・緩和すると主張するが、公的文献には根底の前提と限界が明らかになる。
• HireVue、Pymetrics、Applied の設計・検証・監査の実践は、透明性と厳密さの点で異なる。
• 英国のデータ保護と平等法は、特定の偏見緩和主張を難しくする可能性のある独自の規制環境を提示する。
• 英国の文脈は、透明性と公正性に関するEUの法的基準をAHSが確実に満たす能力を損なう可能性がある。
• 米国開発のAHSが英国で運用される場合、体系的な職場における差別を明らかにするのではなく、隠してしまう可能性がある。