[論文レビュー] Closing the Gender Wage Gap: Adversarial Fairness in Job Recommendation

Clara Rus, Jeffrey Luppes+2 more|arXiv (Cornell University)|Sep 20, 2022

Hate Speech and Cyberbullying Detection被引用数 8

ひとこと要約

本稿では、求人票および履歴書のテキストから得られる word2vec 嵋き込みを敵対的デビーアスリングすることで、求人推薦におけるジェンダーに基づく賃金格差を低減する手法を提案する。埋め込みからのジェンダー予測を最小限に抑える一方で、職業関連の特徴を保持するように、生成的敵対ネットワークを用いた手法により、平均的な女性対男性賃金格差を年間 €1,680 から €180 にまで低減し、推薦性能を損なわずに統計的同等性を達成した。

ABSTRACT

The goal of this work is to help mitigate the already existing gender wage gap by supplying unbiased job recommendations based on resumes from job seekers. We employ a generative adversarial network to remove gender bias from word2vec representations of 12M job vacancy texts and 900k resumes. Our results show that representations created from recruitment texts contain algorithmic bias and that this bias results in real-world consequences for recommendation systems. Without controlling for bias, women are recommended jobs with significantly lower salary in our data. With adversarially fair representations, this wage gap disappears, meaning that our debiased job recommendations reduce wage discrimination. We conclude that adversarial debiasing of word representations can increase real-world fairness of systems and thus may be part of the solution for creating fairness-aware recommendation systems.

研究の動機と目的

• 求人テキストの埋め込みにジェンダーバイアスが存在するかどうかが、不平等な求人推薦および賃金格差を引き起こすかを調査すること。
• 産業スケールの求人推薦システムにおけるジェンダーバイアスを軽減する手法として、敵対的デビーアスリングを評価すること。
• バイアス除去された表現が、賃金推薦における不平等な結果を低減しつつ、タスクに必要な情報を保持しているかどうかを評価すること。
• 敵対的公平性が、自動求人システムにおける測定可能で現実世界の公平性向上をもたらすことを実証すること。

提案手法

• 1,200万件の匿名化された求人票テキストを用いて、300次元の word2vec モデルを訓練し、文書レベルの埋め込みを生成すること。
• 生成的敵対ネットワーク（GAN）フレームワークを用い、生成器がバイアス除去された表現を生成し、識別器がそれらからジェンダーを予測しようとする。
• 公平性（ジェンダー予測 AUC の最小化）と有用性（業界グループ分類精度の最大化）のバランスを取る損失関数で生成器を最適化すること。
• 公平性と性能のトレードオフを制御するハイパーパramータ α と β を用いて、敵対的訓練プロセスを適用すること。
• レジュメと求人票の埋め込み間のコサイン類似度に基づく求人推薦システムで、得られた埋め込みを評価すること。
• 計算制約のため、固定されたデータ分割を用いてモデルを訓練し、性能はマルチラベル業界グループ分類タスクで検証した。

実験結果

リサーチクエスチョン

• RQ1 求人テキストから導出された語彙埋め込みにおけるジェンダーバイアスが、求人推薦における測定可能な賃金格差を引き起こすか？
• RQ2 敵対的デビーアスリングは、タスクパフォーマンスを低下させることなく、求人推薦におけるジェンダー格差を効果的に低減できるか？
• RQ3 バイアス除去された表現は、元のバイアスのある埋め込みと比較して、求人配置に必要な情報をどの程度保持しているか？
• RQ4 敵対的デビーアスリングによる公平性の向上が、賃金均等といった現実世界の結果に反映されるか？
• RQ5 マルチラベル分類設定において、公平性と予測性能のトレードオフはどのように現れるか？

主な発見

• 元の word2vec 埋め込みは強いジェンダーバイアスを示しており、ジェンダー予測 AUC が 0.94 に達し、テキスト表現からジェンダーを高精度に予測可能であることを示した。
• 敵対的デビーアスリング手法により、ジェンダー予測 AUC は 0.82 にまで低下し、埋め込みからのジェンダー推定能力が顕著に低下した。
• 女性と男性の求職者間の平均年間賃金格差は、€1,680 から €180 にまで削減され、格差が 89% 減少した。
• 統計的同等性が向上し、バイアス除去後は賃金格差が統計的に有意でなくなったため、より公平な推薦結果が得られた。
• 業界グループ分類タスクにおける性能は維持されており、正解率が 0.89 に達し、関連する職業情報が保持されていることが示された。
• 両グループの平均給与が向上しており、女性の相対的な上昇率がより大きかったため、公平性を達成する際に一方のグループを犠牲にするトレードオフは生じなかった。