[論文レビュー] Intersectional Affirmative Action Policies for Top-k Candidates Selection

Giorgio Barnabò, Carlos Castillo+2 more|arXiv (Cornell University)|Jul 29, 2020

LGBTQ Health, Identity, and Policy参考文献 38被引用数 4

ひとこと要約

本稿は、重複する属性（例：人種、性別、社会経済的地位）によって定義される不利なサブグループ間の格差を低減しつつ、選択された候補者の平均的適性を維持するという高い有用性を実現する、トップ-k候補選定のための新規なアルゴリズム的フレームワークを提案する。動的計画法と貪欲最適化を用いて、最小限の平均的適性の低下で交差的クラス間の受入率のほぼ同等化を達成する。実際のOECD加盟国における大学入試データを用いて実証された。

ABSTRACT

We study the problem of selecting the top-k candidates from a pool of applicants, where each candidate is associated with a score indicating his/her aptitude. Depending on the specific scenario, such as job search or college admissions, these scores may be the results of standardized tests or other predictors of future performance and utility. We consider a situation in which some groups of candidates experience historical and present disadvantage that makes their chances of being accepted much lower than other groups. In these circumstances, we wish to apply an affirmative action policy to reduce acceptance rate disparities, while avoiding any large decrease in the aptitude of the candidates that are eventually selected. Our algorithmic design is motivated by the frequently observed phenomenon that discrimination disproportionately affects individuals who simultaneously belong to multiple disadvantaged groups, defined along intersecting dimensions such as gender, race, sexual orientation, socio-economic status, and disability. In short, our algorithm's objective is to simultaneously: select candidates with high utility, and level up the representation of disadvantaged intersectional classes. This naturally involves trade-offs and is computationally challenging due to the the combinatorial explosion of potential subgroups as more attributes are considered. We propose two algorithms to solve this problem, analyze them, and evaluate them experimentally using a dataset of university application scores and admissions to bachelor degrees in an OECD country. Our conclusion is that it is possible to significantly reduce disparities in admission rates affecting intersectional classes with a small loss in terms of selected candidate aptitude. To the best of our knowledge, we are the first to study fairness constraints with regards to intersectional classes in the context of top-k selection.

研究の動機と目的

• 複数の不利なグループに属する個人が重複して差別を受ける可能性があるトップ-k選定プロセスにおけるアルゴリズム的不平等を是正すること。
• 選択された候補者の平均的適性を著しく低下させることなく、交差的クラスにおける入試合格率の格差を低減するデータ駆動型政策を設計すること。
• 交差する属性によって定義される指数関数的に増加するサブグループの公平性を管理する組合せ的課題をモデル化・解決すること。
• 現実の大学入試制度において、公平性（代表の均等性）と有用性（候補者の適性）のトレードオフを評価すること。
• 大学入学や職業採用などの高利害な選定プロセスに適用可能な、原則的かつスケーラブルなアルゴリズム的フレームワークを提供すること。

提案手法

• 保護される属性によって定義されるすべての交差的サブグループにおける有用性最大化と公平性のバランスを取る制約付き最適化問題を定式化する。
• 全有用性と交差的クラス間の入試合格率の乖離を組み合わせた重み付き目的関数を導入し、調整可能なトレードオフパラメータλを用いる。
• 公平性と有用性のトレードオフを達成するための最適なしきい値調整を最適性保証とともに計算する動的計画法アルゴリズムを開発する。
• 最適性を犠牲にして著しい高速化を実現する代替手段として、動的計画法の代替となる貪欲ヒューリスティックを提案する。
• 小規模なサブグループにおける統計的妥当性を確保するため、3人未満の応募者を有する交差的クラスを除外するようにアルゴリズムを適応させる。
• 標準化された試験得点、高校成績、および人種的属性を含むOECD加盟国からの実際の大学入試データを用いて、アルゴリズムのシミュレーションと評価を実施する。

実験結果

リサーチクエスチョン

• RQ1 重複する保護される属性によって定義されるサブグループにおける入試合格率の格差を、交差的肯定的措置政策が著しく低減できるか。
• RQ2 選択された候補者の平均的適性に著しい損失を被ることなく、交差的クラス間の公平性をどの程度向上できるか。
• RQ3 現実の設定において、動的計画法と貪欲法の両アプローチが公平性、有用性、計算効率の観点でどのように比較されるか。
• RQ4 プログラム単位での肯定的措置と統一された単一トラック制度とを比較した場合、公平性と有用性のトレードオフにどのような影響を与えるか。
• RQ5 応募者プールにおける交差的クラスのサンプルサイズが小さい場合、公平性の結果はどの程度安定するか。

主な発見

• 提案されたアルゴリズムは、社会経済的地位、高校の種別、地域発展度の3つの属性から定義される12の交差的クラスすべてにおいて、受入率のほぼ同等化を達成しており、平均入試得点の低下は1〜2ポイントにとどまる。
• 単一トラック設定では、有用性の低下が1〜2ポイントにとどまるだけで、平均入試合格率の乖離が著しく減少し、図4の縦軸が乖離の対数的低下を示している。
• 貪欲アルゴリズムは動的計画法よりも桁違いに高速であり、最適解を発見しなかったのは1つの設定（単一トラック、30％入試率、λ=0）に限る。
• 個別プログラムの文脈では、公平性を達成するための有用性の犠牲が中央集権的設定よりも小さい。これは、入試合格率のベースライン乖離が低いからである。
• 個別プログラムの応用においては、主に最も privileged（例：1Aa）および最も不利な（例：3Bb）グループでのみ入試得点と乖離に変化が見られ、ターゲットされた公平性調整が行われていることが示された。
• 3人未満の応募者を有する交差的クラスを除外しても、本手法は依然として安定的かつ意味のある公平性の結果を保証し、多様な現実世界のシナリオに耐える。