[論文レビュー] Evaluation of Fairness Trade-offs in Predicting Student Success

Hansol Lee, René F. Kizilcec|arXiv (Cornell University)|Jun 30, 2020

Online Learning and Analytics参考文献 9被引用数 9

ひとこと要約

本研究では、米国の研究大学の管理データを用いて、学生の成績予測モデルにおける公平性のトレードオフを評価し、後処理のしきい値調整を適用して機会の平等を向上させた。その結果、公平性の指標の一つ（機会の平等）を最適化すると、人種的・民族的背景に関する差別の平等と陽性予測の平等が悪化することが判明し、教育分野のAIシステムにおける公平性基準の間には本質的なトレードオフが存在することを示した。

ABSTRACT

Predictive models for identifying at-risk students early can help teaching staff direct resources to better support them, but there is a growing concern about the fairness of algorithmic systems in education. Predictive models may inadvertently introduce bias in who receives support and thereby exacerbate existing inequities. We examine this issue by building a predictive model of student success based on university administrative records. We find that the model exhibits gender and racial bias in two out of three fairness measures considered. We then apply post-hoc adjustments to improve model fairness to highlight trade-offs between the three fairness measures.

研究の動機と目的

• 実世界の管理データを用いた学生の成績予測モデルにおける公平性のトレードオフを調査すること。
• 後処理のしきい値調整が、人種的・民族的背景、性別、性別に関する3つの統計的公平性指標（差別の平等、機会の平等、陽性予測の平等）に与える影響を評価すること。
• ある公平性基準に最適化することによって、モデルの正確性と性別・人種的・民族的背景にかかわるグループ間での公平性にどのような影響を与えるかを検討すること。
• 教育分野の予測モデリングにおける公平性指標の不可能結果の実用的意味を示すこと。

提案手法

• 5,443件の学生記録（2014年秋学期から2019年春学期まで）を用いてランダムフォレストモデルを訓練した。特徴量には、人種的・民族的背景、テストスコア、GPA、および以前の授業成績が含まれた。
• モデルは、6つの必須科目で中間以上（median or higher）の成績を示すかを予測した。訓練に78.4%のデータが使用され、テストに21.6%が使用された。
• 機会の平等を達成するために、後処理のしきい値調整を実施した。男性と女性ではそれぞれ0.48および0.58、U事後（URM）と非URMではそれぞれ0.46および0.59を設定した。
• 公平性は3つの指標で評価した：差別の平等（等しい陽性予測率）、機会の平等（グループ間で等しい再現率）、陽性予測の平等（グループ間で等しい適合率）。
• グループ間の差の統計的有意性は、等しい比率の検定を用いて評価され、p値はp < 0.001、p < 0.05、p < 0.1として報告された。

実験結果

リサーチクエスチョン

• RQ1 標準的な学生の成績予測モデルは、性別および人種的・民族的背景にかかわるグループにおいて、公平性の観点からどのように機能するか？
• RQ2 後処理のしきい値調整によって、差別の平等、機会の平等、陽性予測の平等の間にはどのようなトレードオフが生じるか？
• RQ3 機会の平等に最適化することで、他の公平性指標における公平性にどの程度影響を与えるか？
• RQ4 他の公平性指標の不平等を悪化させることなく、ある公平性基準に公平であるモデルを構築することは可能か？

主な発見

• 元のモデルには顕著なバイアスが見られた：URM学生の再現率は非URM学生より20.2%低く（p < 0.001）、男性学生は女性学生より10.5%低く（p < 0.001）あり、機会の平等が満たされていなかった。
• 機会の平等を達成するためにしきい値を調整した後、再現率の差はURM／非URMで0.1%、男性／女性で-0.1%にまで縮小され、公平性の向上が成功したことが示された。
• 差別の平等は調整後、改善された。陽性予測率の差は、URM対非URMで28.1%から8.0%に減少（p < 0.05）、性別では12.9%から1.0%に減少した。
• 陽性予測の平等は悪化した：URM対非URMでは適合率の差が1.7%から6.8%に、男性対女性では5.2%から8.7%に拡大し、非URMおよび女性学生の適合率が高くなった。
• URM学生のモデルの正確性はわずかに向上（0.695から0.736に）、非URMでは安定した。全体のテスト正確性は0.73であった。
• 結果として、3つの公平性指標を同時に満たすことは不可能であり、1つの指標を改善すると他の指標が劣化することが確認された。特に陽性予測の平等が顕著に悪化した。