[論文レビュー] Recovering from Biased Data: Can Fairness Constraints Improve Accuracy?

Avrim Blum, Kevin Stangl|arXiv (Cornell University)|Dec 2, 2019

Ethics and Social Impacts of AI参考文献 17被引用数 14

ひとこと要約

この論文は、Empirical Risk Minimization (ERM) に Equal Opportunity の公平性制約を適用することで、不利なグループが低頻度に出現するか誤標籤されている場合でも、バイアスのある訓練データからベイズ最適な分類器を回復できることを示している。主な結果は、公平性制約がラベル付けとサンプリングの系統的バイアスを是正することで、真のデータ分布における精度を向上させられることである。

ABSTRACT

Multiple fairness constraints have been proposed in the literature, motivated by a range of concerns about how demographic groups might be treated unfairly by machine learning classifiers. In this work we consider a different motivation; learning from biased training data. We posit several ways in which training data may be biased, including having a more noisy or negatively biased labeling process on members of a disadvantaged group, or a decreased prevalence of positive or negative examples from the disadvantaged group, or both. Given such biased training data, Empirical Risk Minimization (ERM) may produce a classifier that not only is biased but also has suboptimal accuracy on the true data distribution. We examine the ability of fairness-constrained ERM to correct this problem. In particular, we find that the Equal Opportunity fairness constraint (Hardt, Price, and Srebro 2016) combined with ERM will provably recover the Bayes Optimal Classifier under a range of bias models. We also consider other recovery methods including reweighting the training data, Equalized Odds, and Demographic Parity. These theoretical results provide additional motivation for considering fairness interventions even if an actor cares primarily about accuracy.

研究の動機と目的

• 訓練データに不利なグループに対するバイアスがある状況で、公平性制約がモデルの精度を向上させることを調査すること。
• 正例の不足や不利なグループのメンバーの誤標籤を含む、現実的なデータバイアスの形をモデル化すること。
• 訓練データが汚染されている状況でも、公平性制約付き学習が真のベイズ最適な分類器を回復できるかどうかを評価すること。
• Equal Opportunity、Equalized Odds、Demographic Parity の異なる公平性制約と再重み付け手法の、バイアス是正における有効性を比較すること。
• 公平性制約を公平性の目的だけでなく、バイアスのあるデータ設定における精度向上の根拠としても使用する理論的裏付けを提供すること。

提案手法

• 2つのグループ（優位なグループ A と不利なグループ B）を想定する二値分類設定を形式化し、真のベイズ最適分類器 h_A* と h_B* が同じ正例率 p と同じ誤差率 η を持つことを仮定する。
• バイアスを2つのメカニズムでモデル化する：グループBの例の低頻度出現（率 ν）と、正例のグループBメンバーが負例として誤標籤される確率 ν。
• ERM に Equal Opportunity 制約を適用し、グループBの真の正例率がグループAと等しくなるように制約を課す。すなわち、P(y=1|h_B*(x)=1) = P(y=1|h_A*(x)=1) となる。
• 再重み付けされた尤度比を分析することで、制約付き ERM 解が真のベイズ最適分類器 h* = (h_A*, h_B*) を回復する条件を導出する。
• 代替手法を比較する：訓練データを再重み付けして Demographic Parity を満たす方法、および ERM に Equalized Odds や Demographic Parity 制約を直接適用する方法。
• 理論的分析により、Equal Opportunity 制約がさまざまなバイアスモデルにおいて h* を明確に回復できることを示し、他の手法は同様の条件下で失敗することを示している。

実験結果

リサーチクエスチョン

• RQ1 訓練データに不利なグループに対するバイアスがある場合、Equal Opportunity などの公平性制約がモデル精度を向上させられるか？
• RQ2 データバイアスが存在する状況でも、Equal Opportunity 制約付き ERM がベイズ最適分類器を回復する条件は何か？
• RQ3 Under-representation と誤標籤から生じるバイアスを是正する際、Equal Opportunity、Equalized Odds、Demographic Parity という異なる公平性制約は、それぞれどのように性能を発揮するか？
• RQ4 Demographic Parity を満たすように訓練データを再重み付けすることで、バイアスのあるデータ設定における精度が向上するか？
• RQ5 なぜ Equal Opportunity は、Equalized Odds に近い公平性概念よりも、データバイアスの是正において優れているのか？

主な発見

• Equal Opportunity 制約付き ERM は、正例の不足やラベルバイアスを含む広範なバイアスモデルにおいて、ベイズ最適分類器 h* = (h_A*, h_B*) を明確に回復できる。
• 両グループのベイズ最適分類器が同じ正例率 p と同じ誤差率 η を持ち、誤差が一様に分布している場合、回復が保証される。
• Demographic Parity を満たすように訓練データを再重み付けすることで、一部のバイアスモデルでは精度が向上するが、他のモデルでは失敗する。これに対して Equal Opportunity は一貫して有効である。
• Equal Opportunity 制約は、Equalized Odds よりもバイアス是正において優れていることが示され、実用的文脈における公平性概念の重要な違いが浮き彫りになる。
• 分析により、公平性制約が訓練データの系統的バイアスを是正することで、真のデータ分布における精度を向上させられることを示している。
• 結果から、公平性の介入が精度と対立するのではなく、バイアスのあるデータから正しいモデルを回復する上で不可欠であることが示された。