[論文レビュー] Mitigating Bias in Algorithmic Hiring: Evaluating Claims and Practices

Manish Raghavan, Solon Barocas+2 more|arXiv (Cornell University)|Jun 21, 2019

Ethics and Social Impacts of AI参考文献 45被引用数 140

ひとこと要約

本論文は、アルゴリズムによる事前雇用評価を提供する18社を分析し、開発/検証実践、バイアス主張、法的考慮を記録し、これらのツールが公平性にどのように対応しているかを評価する。

ABSTRACT

There has been rapidly growing interest in the use of algorithms in hiring, especially as a means to address or mitigate bias. Yet, to date, little is known about how these methods are used in practice. How are algorithmic assessments built, validated, and examined for bias? In this work, we document and analyze the claims and practices of companies offering algorithms for employment assessment. In particular, we identify vendors of algorithmic pre-employment assessments (i.e., algorithms to screen candidates), document what they have disclosed about their development and validation procedures, and evaluate their practices, focusing particularly on efforts to detect and mitigate bias. Our analysis considers both technical and legal perspectives. Technically, we consider the various choices vendors make regarding data collection and prediction targets, and explore the risks and trade-offs that these choices pose. We also discuss how algorithmic de-biasing techniques interface with, and create challenges for, antidiscrimination law.

研究の動機と目的

• ベンダーがアルゴリズムによる事前雇用評価の実践をどのように開発・検証・開示しているかを検討する。
• データの使用、ターゲット変数、検証、およびバイアス低減に関してベンダーが開示している内容を記録する。
• ベンダーの実践が反差別法および業界標準とどの程度整合しているかを評価する。
• バイアス、検証、法的側面に関連する業界規範のギャップと緊張を特定する。

提案手法

• Crunchbase、Upturn、RedThread Research を通じてアルゴリズムによる事前雇用評価を提供するベンダーを体系的に特定した。
• ベンダーのウェブサイトから、評価タイプ、ターゲット変数、訓練データ、検証、および公正性の主張に関する公に開示された情報を抽出した。
• データ選択、検証手順、バイアス低減を分析するため、機械学習パイプラインに沿って実践を分類した。
• Title VII、雇用選考手続の統一基準（Uniform Guidelines on Employment Selection Procedures）、および4/5ルールといった法的枠組みとベンダーの主張を比較した。
• データソース、ターゲットアウトカム、代替評価形式（例：ゲーム、ビデオ）に関する技術的課題を統合した。

実験結果

リサーチクエスチョン

• RQ1 ベンダーはどのような種類の事前雇用評価を提供していますか？
• RQ2 ベンダーはこれらの評価のターゲット変数と訓練データをどのように選択しますか？
• RQ3 ベンダーが開示する検証手順は何ですか、そしてそれらは顧客にどのように合わせられていますか？
• RQ4 ベンダーはどのようなバイアス/公正性を主張し、バイアスを軽減するためにどの方法が用いられていますか？
• RQ5 法的基準がベンダーの実践と悪影響の評価にどのように影響しますか？

主な発見

• アルゴリズムによる事前雇用評価を提供する18社を特定し、分析した。
• 評価タイプには質問、ビデオ面接、ゲームプレイが含まれ、多くのベンダーがデータ使用とターゲットのカスタマイズを提供している。
• 検証情報はしばしば不明確または限定的であるが、検証研究や人口統計監査を公表するベンダーもあれば、詳細がほとんどないベンダーもある。
• 大多数のベンダーがバイアスまたは有害影響を言及し、4/5ルールの遵守に言及している；デバイアス手法は特異性の面でばらつく。
• 2つの広義の公正性戦略が現れる：自然に偏りのない設計で等しいスコア分布を目指すもの、保護属性と相関する特徴量を低重み付けする/除去する能動的デバイアス化。
• 業界の実践は異質性と進化する規範を示しており、モデルの有効性とデータ起源に関する公開透明性は限られている。