[論文レビュー] Fairness and Bias in Algorithmic Hiring: a Multidisciplinary Survey

Alessandro Fabris, Nina Baranowska+6 more|arXiv (Cornell University)|Sep 25, 2023

Ethics and Social Impacts of AI被引用数 6

ひとこと要約

多様な分野にまたがる包括的サーベイは、アルゴリズムによる採用における公平性とバイアスについて、統合的かつ包括的な分析を提供し、システム、バイアス、公平性指標、緩和戦略、データセット、法的枠組みを統合的に扱う。研究者および実務家が、バイアス低減と公平で信頼性のある採用技術の発展に役立つ、文脈に配慮したバランスの取れたガイドラインを提供する。

ABSTRACT

Employers are adopting algorithmic hiring technology throughout the recruitment pipeline. Algorithmic fairness is especially applicable in this domain due to its high stakes and structural inequalities. Unfortunately, most work in this space provides partial treatment, often constrained by two competing narratives, optimistically focused on replacing biased recruiter decisions or pessimistically pointing to the automation of discrimination. Whether, and more importantly what types of, algorithmic hiring can be less biased and more beneficial to society than low-tech alternatives currently remains unanswered, to the detriment of trustworthiness. This multidisciplinary survey caters to practitioners and researchers with a balanced and integrated coverage of systems, biases, measures, mitigation strategies, datasets, and legal aspects of algorithmic hiring and fairness. Our work supports a contextualized understanding and governance of this technology by highlighting current opportunities and limitations, providing recommendations for future work to ensure shared benefits for all stakeholders.

研究の動機と目的

• アルゴリズムによる採用に関する対立的議論を是正するため、技術的・法的・社会的側面から公平性とバイアスを統合的かつバランスの取れた概要を提供すること。
• 採用プロセスの各段階に影響を及げるバイアス促進要因（BCFs）を特定し、体系化すること。具体的には、労働市場構造、採用プロセス、技術分野の影響を含む。
• 特にEUおよび米国法規制に準拠する状況を想定し、実務家がバイアス低減と法的適合性を実行可能に実施できるよう、実務的ガイダンスを提供すること。
• 再現可能性のある研究を支援するため、既存のデータセット、公平性指標、緩和技術を収集・評価すること。
• 特にデータの多様性、感受性属性のカバー範囲、法的・技術的整合性の面での重要な研究ギャップを特定し、今後の研究方向性を提言すること。

提案手法

• コンピュータサイエンス、法、社会科学の分野を網羅する体系的文献レビューを実施し、アルゴリズムによる採用におけるシステム、バイアス、公平性指標、緩和戦略、データセットをマッピングした。
• 労働市場構造、採用実務、技術設計・導入の3分野にわたり、バイアス促進要因（BCFs）を分類した。
• 公平性指標（例：デモグラフィックパラティーション、同等機会、予測パラティーション）と緩和技術（例：敵対的デバイアス除去、再重み付け、敵対的訓練）をレビューし、統合した。
• 15以上もの公開済みデータセットを評価し、その代表性、感受性属性のカバー範囲、制限事項を分析した。
• EU（例：AI法）および米国の法的枠組みを分析し、データプライバシー、差別の禁止、公平性研究の間で生じる対立を特定した。
• 知的財産権に配慮した監査プロトコルや、マルチパーティ計算やノイズ注入といったプライバシー保護技術の活用を含む、技術的・政策的提言を提示した。

Figure 1. Stages of algorithmic hiring with the main tools (below) and bias conducive factors (above) tilting data against vulnerable groups, jointly with stereotypes and sensitive attribute proxies.

実験結果

リサーチクエスチョン

• RQ1 アルゴリズムによる採用プロセスにおける主要なバイアス促進要因（BCFs）は何か。また、これらは労働市場、採用、技術分野の各分野でどのように発生するのか。
• RQ2 現存する公平性指標および緩和戦略は、実際の採用状況においてどのように機能するのか。また、構造的不平等に対処する際の限界は何か。
• RQ3 アルゴリズムによる採用研究に使用される既存のデータセットにおける主なギャップは何か。特に地理的・言語的・感受性属性の多様性の欠如について。
• RQ4 EUのAI法のような法的枠組みは、特に特別カテゴリーのデータ処理に関連して、公平なアルゴリズムによる採用システムの開発をどのように支援または制限するのか。
• RQ5 技術的公平性、データプライバシー、差別の禁止法を統合するための多分野的戦略は何か。採用アルゴリズムの設計およびガバナンスにおいて。

主な発見

• ジョブディスクリプション作成からレジュメ解析、動画面接分析に至るまで、アルゴリズムによる採用プロセスの各段階が、構造的不平等や不適切なデータ・設計選択によりバイアスの影響を受けやすい。
• 現在の公平性指標は、代理変数の低減を重視する傾向にあり、実質的な公平性を実現するのではなく、多くの緩和技術は雇用における根本的な差別の原因を是正できない。
• 研究で使用される多くのデータセットは、地理的・言語的・感受性属性（例：障害状態、性的指向）の多様性に欠けており、公平性評価の妥当性を制限している。
• EUのAI法は、高リスクな状況において感受性のあるデータの処理を制限的に許可するが、公平なアルゴリズム開発を可能にするために、より広範な例外規定の整備が求められる。
• 知的財産権に配慮した監査メカニズムとプライバシー保護技術（例：マルチパーティ計算、ノイズ注入）の導入が、データセキュリティや商業的利益を損なわずに透明性を確保するために極めて重要である。
• 研究が進展しているにもかかわらず、技術的公平性と法的・倫理的基準を整合化する点で依然として大きなギャップが存在し、特にHR技術分野における差別の禁止、プライバシー、イノベーションのバランスを取ることが難しい。