[論文レビュー] Learning under selective labels in the presence of expert consistency

Blum, Avrim, Stangl, Kevin|arXiv (Cornell University)|Jul 2, 2018

Fuzzy Systems and Optimization参考文献 12被引用数 17

ひとこと要約

本稿では、人間の専門家が特定のラベルを一貫して予測するケースで真の結果が観測されない、アルゴリズム支援意思決定における選択的ラベリングバイアスに対処するためのデータ拡張手法を提案する。特に、人間が結果が否定的であると強く自信を持っている場合の専門家の一貫性を活用することで、合成ラベルを生成し、モデルの一般化性能を向上させる。主な貢献は、特に偽陰性の検出やシステム的差別のリスクの低減において、選択的にラベルが付与されたデータにおけるモデルの信頼性と信頼性の向上である。

ABSTRACT

Multiple fairness constraints have been proposed in the literature, motivated by a range of concerns about how demographic groups might be treated unfairly by machine learning classifiers. In this work we consider a different motivation; learning from biased training data. We posit several ways in which training data may be biased, including having a more noisy or negatively biased labeling process on members of a disadvantaged group, or a decreased prevalence of positive or negative examples from the disadvantaged group, or both. Given such biased training data, Empirical Risk Minimization (ERM) may produce a classifier that not only is biased but also has suboptimal accuracy on the true data distribution. We examine the ability of fairness-constrained ERM to correct this problem. In particular, we find that the Equal Opportunity fairness constraint [Hardt et al., 2016] combined with ERM will provably recover the Bayes optimal classifier under a range of bias models. We also consider other recovery methods including re-weighting the training data, Equalized Odds, and Demographic Parity, and Calibration. These theoretical results provide additional motivation for considering fairness interventions even if an actor cares primarily about accuracy.

研究の動機と目的

• 人間の意思決定が観測を遮断するケースで真の結果が観測されない、アルゴリズム支援意思決定における選択的ラベリングバイアスの課題に対処すること。
• 真のラベルが欠落している状況で、専門家の一貫性（特に人間が非常に自信を持っている場合）がモデル学習にどのように活用できるかを調査すること。
• 専門家の確信度を統合するデータ拡張フレームワークを構築し、ラベルが付与されていない領域へのモデル一般化を改善すること。
• 提案手法を実証的検証ツールとして用い、選択的ラベル付け下での学習が、偽陰性率やシステム的差別リスクの面で信頼性の低いモデルを生じるかどうかを評価すること。
• 共通のバイアスではなく専門性に基づくものである可能性がある専門家の一致が、共有バイアス由来である可能性がある場合のリスクと利点を検討すること。

提案手法

• 人間の意思決定確率 P(di = 1|xi) < ϵ であるケースに合成ラベルを追加するデータ拡張スキームを提案し、一貫した人間の予測が正しさを示すと仮定する。
• 真のラベルが観測される確率 P(di = 1|xi) を推定する予測モデルを用い、これは選択的ラベリングバイアスの影響を受けない。
• 人間が結果の観測を強く否定している（di = 0）と判断するケースを特定するため、閾値 ϵ = 0.05 を適用し、専門家の一致に基づいて準合成ラベルを割り当てる。
• 観測済みデータ So と組み合わせ、拡張された訓練データ SA = So ∪ {(xi, di) : P(di = 1|xi) < ϵ} を生成し、観測済みおよび専門家の一貫性に基づく未ラベル付きケースの両方でモデルを学習する。
• 拡張データにおける残存する選択バイアスを是正するために、逆確率重み付けを変種として採用する。
• 実世界のデータ（子供福祉の配置意思決定）と準合成データの両方を用いて手法を検証し、観測済みおよび拡張済みテストセットにおけるモデル性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 選択的ラベリング下で、人間の意思決定の一貫性を信頼性を持って未ラベルデータの合成ラベル生成に活用できるか？
• RQ2 専門家の一致に基づくデータ拡張は、選択的に未ラベルが付けられたデータ領域へのモデル一般化を改善するか？
• RQ3 選択的ラベル付け下での学習が、偽陰性率やシステム的差別リスクの面で信頼性の低いモデルを生じる程度はどの程度か？
• RQ4 拡張データにおけるモデルの性能は、観測済みデータにおける性能とどのように異なるか、特に高リスクケースの検出において。
• RQ5 専門家の一致が正しさを示すのではなく、共有バイアスを示す場合の条件は何か？

主な発見

• 準合成データでは、観測済みデータのみで学習したモデルは感度が低い（偽陰性率が高い）場合に著しく性能を発揮せず、これは拡張テストセットでの評価によってのみ検出可能であった。
• データ拡張手法により、特に専門家が自信を持って除外したケースにおいて、準合成データで偽陰性が顕著に減少し、一般化性能の向上が示された。
• 実世界のデータでは、高信頼度での除外ケースが少なかったため、拡張の影響は限定的であったが、除外領域におけるモデル予測は人間の意思決定と強い一致を示した。
• 拡張データで学習したモデルは、自信を持って除外されたケースに対して低いリスクスコアを割り当てており、専門家の一致により良い整合性を示した。
• 拡張設定で逆確率重み付けを用いても性能向上は顕著ではなく、主な利益は専門家の一致に基づく拡張自体に起因していることが示唆された。
• 本手法は、専門家の知識をモデル学習に効果的に統合し、人間の自信の信号が有用である意思決定支援システムにおける信頼性と信頼性の向上に寄与した。