[論文レビュー] Fair Sequential Selection Using Supervised Learning Models

Mohammad Mahdi Khalili, Xueru Zhang+1 more|arXiv (Cornell University)|Oct 26, 2021

Privacy-Preserving Technologies in Data参考文献 37被引用数 6

ひとこと要約

本稿では、限られたポジションを持つ順次選択問題における新しい公平性基準である Equal Selection (ES) を導入し、標準的な公平性指標（等しい機会や統計的同等性）ですら、依然として偏った結果をもたらす可能性があることを示している。本稿では、微分プライバシーによってノイズが加えられた感受性属性に対しても、後処理による線形計画法を用いてES公平性を強制する手法を提案しており、文化的背景ごとの選択確率がバランスされるよう保証している。

ABSTRACT

We consider a selection problem where sequentially arrived applicants apply for a limited number of positions/jobs. At each time step, a decision maker accepts or rejects the given applicant using a pre-trained supervised learning model until all the vacant positions are filled. In this paper, we discuss whether the fairness notions (e.g., equal opportunity, statistical parity, etc.) that are commonly used in classification problems are suitable for the sequential selection problems. In particular, we show that even with a pre-trained model that satisfies the common fairness notions, the selection outcomes may still be biased against certain demographic groups. This observation implies that the fairness notions used in classification problems are not suitable for a selection problem where the applicants compete for a limited number of positions. We introduce a new fairness notion, ``Equal Selection (ES),'' suitable for sequential selection problems and propose a post-processing approach to satisfy the ES fairness notion. We also consider a setting where the applicants have privacy concerns, and the decision maker only has access to the noisy version of sensitive attributes. In this setting, we can show that the perfect ES fairness can still be attained under certain conditions.

研究の動機と目的

• 限られたポジションを持つ順次選択問題における公平性指標のギャップを埋めること。特に、従来のグループ公平性の概念では不十分である点を明らかにすること。
• 事前学習済みモデルが等しい機会や統計的同等性を満たしていても、順次選択の文脈では差別的結果を生じる可能性があることを示すこと。
• 文化的背景ごとの適性を持つ応募者に対して、選択確率が等しくなるように保証する新たな公平性概念、Equal Selection (ES) を定義すること。
• 任意の事前学習済みモデルに対して、線形計画法を用いた後処理手法を開発し、ES 公平性を強制すること。
• 感受性属性がノイズノイズの状態（微分プライバシー下）でも公平性を分析し、特定の条件下では完全な ES 公平性が達成可能であることを示すこと。

提案手法

• 任意の文化的背景からの適性を持つ応募者が選択される確率が等しくなるように保証する公平性基準として Equal Selection (ES) を導入すること。
• 事前学習済みモデルの予測結果を調整するための後処理アプローチを線形計画法で定式化し、ES 制約を満たすようにすること。
• 応募者が時間経過とともに到着し、モデルスコアに基づいて受け入れまたは拒否されるという順次意思決定問題として選択プロセスをモデル化すること。
• プライバシーを考慮し、感受性属性を微分プライバシーによるノイズノイズなバージョンとしてモデル化し、局所的微分プライバシーを用いてプライバシー漏洩を定量化すること。
• ノイズの加えられた属性、真の適性、予測結果を含む結合確率分布を導出し、公平性指標を計算すること。
• グループ間での選択確率が等しくなるように保証しつつ、精度を最大化する公平な予測子を求める最適化問題を解くこと。

実験結果

リサーチクエスチョン

• RQ1 等しい機会や統計的同等性といった標準的な公平性概念が、限られたポジションを持つ順次選択においても公平性を保証できるか？
• RQ2 従来の公平性基準を満たす事前学習済みモデルでも、順次設定下では依然として偏った選択結果を生じるか？
• RQ3 限られたポジションを持つ順次選択において、文化的背景グループの代表がバランス取れるような新たな公平性概念を定義可能か？
• RQ4 感受性属性がノイズノイズの状態（微分プライバシー下）でも、完全な公平性を達成できるか？
• RQ5 プライバシー制約下で、提案された ES 公平性手法の性能は、既存の公平性制約と比べてどのように異なるか？

主な発見

• 等しい機会や統計的同等性を満たす事前学習済みモデルであっても、限られたポジションを持つ順次設定下では、適性を持つ Black 応募者の選択率はほぼゼロに留まる。
• 提案された Equal Selection (ES) 公平性概念により、選択確率がバランスされ、White と Black の適性を持つ応募者の選択率がほぼ等しく（0.487 と 0.480）なる。
• ES 公平性下では、グループ間の選択率の差がゼロにまで低下するが、等しい機会や公平性なしの制約下では依然として高い（0.8 以上）ままである。
• ES 公平性下での公平な予測子の精度は、プライバシー損失 ε が無限大に近づくと 0.66 に達し、等しい機会や公平性なしのベースラインと一致する。
• ES 公平性の最適化問題は、プライバシー損失 ε が閾値（ε ≥ 2.7）を超える場合にのみ非ゼロ解を持つことが判明し、理論的境界と整合的である。
• ε ≥ 3 の場合、ES 法の精度および公平性性能は、等しい機会や公平性なしのベースラインと区別できず、実用的妥当性が確認された。