[論文レビュー] Augmented Fairness: An Interpretable Model Augmenting Decision-Makers' Fairness

Tong Wang, Maytal Saar‐Tsechansky|arXiv (Cornell University)|Nov 17, 2020

Ethics and Social Impacts of AI参考文献 19被引用数 4

ひとこと要約

本稿では、予測のバイアスを是正するため、人間やブラックボックス意思決定者に代わって、二重の目的（予測性能と公平性）の下で訓練された短い意思決定ルールの集合によってバイアスのある予測を置き換える、モデルに依存しない解釈可能な手法AuFairを提案する。真のラベルの取得に予算制約がある状況下でも、AuFairは、包括的で最新の事後処理手法も含むベースラインと比較して、優れた公平性と精度のトレードオフを達成する。

ABSTRACT

We propose a model-agnostic approach for mitigating the prediction bias of a black-box decision-maker, and in particular, a human decision-maker. Our method detects in the feature space where the black-box decision-maker is biased and replaces it with a few short decision rules, acting as a "fair surrogate". The rule-based surrogate model is trained under two objectives, predictive performance and fairness. Our model focuses on a setting that is common in practice but distinct from other literature on fairness. We only have black-box access to the model, and only a limited set of true labels can be queried under a budget constraint. We formulate a multi-objective optimization for building a surrogate model, where we simultaneously optimize for both predictive performance and bias. To train the model, we propose a novel training algorithm that combines a nondominated sorting genetic algorithm with active learning. We test our model on public datasets where we simulate various biased "black-box" classifiers (decision-makers) and apply our approach for interpretable augmented fairness.

研究の動機と目的

• 再訓練やオンデマンドでのアクセスが不可能であり、出力が確率的ではなく離散的である人間の意思決定者に起因するバイアスを是正すること。
• 完全な真のラベルではなく、限られた予算制約のある真のラベル集合でのみ動作する公平性軽減手法を開発すること。
• 人間の専門家がハイステイクス分野で増強モデルを検証・承認できるように、解釈可能性を保証すること。
• 固定された1つの解決策ではなく、公平性と予測性能の間の柔軟な、複数の解決策のトレードオフを提供すること。
• 解釈可能な代替モデルが、バイアスがある領域において選択的にバイアスを是正する、ハイブリッドな人間と機械のシステムを構築すること。

提案手法

• 本手法は、予測性能と公平性の両方をバランスさせる解釈可能な代替モデル（AuFair）を訓練するための多目的最適化フレームワークを用いる。
• AuFairは、ブラックボックス意思決定者の予測と、アクティブラーニングを用いて取得した限られた真のラベルの上で訓練される。
• 未知のインスタンスを段階的に選択してラベル取得を最適化するため、非優位ソーティング遺伝的アルゴリズム（NSGA-II）とアクティブラーニングを組み合わせた新規訓練アルゴリズムを提案する。
• 代替モデルは、元の意思決定者がバイアスを持つ特徴空間の領域で「公平な代替」として機能する解釈可能な関連ルールで構成される。
• モデルは、公平性（真の陽性率の絶対差として測定）と誤差率のパレートフロンティア上で評価される。
• ラベル取得は、不確実性と多様性の基準に従って行われ、予算制約下での情報量の最大化を目的とする。

実験結果

リサーチクエスチョン

• RQ1 限られた数の真のラベルしか入手できない状況下で、既存のベースラインと比較して、事後処理手法がより優れた公平性と精度のトレードオフを達成できるか？
• RQ2 解釈可能な代替モデルは、人間やブラックボックス意思決定者のバイアスのある意思決定を効果的に置き換えつつ、専門家が理解できる形で残せるか？
• RQ3 ラベル取得予算の増加に伴い、提案手法の性能はどのようにスケーリングするか？
• RQ4 ラベル取得にアクティブラーニング戦略を用いることで、ランダムまたは非適応的サンプリングと比較して、モデル性能が顕著に向上するか？
• RQ5 本手法は、タスク固有の好みに応じた最適なトレードオフを選択可能な、公平性と精度のフロンティア上の複数の解決策を提供できるか？

主な発見

• AuFairは、EOPベースラインと比較して、顕著に優れた公平性と精度のトレードオフを達成しており、誤差率をほぼ同等に保ちながらバイアスを著しく低減している。
• 真のラベルの1%しか入手できない状況ですら、AuFairは真のラベルを100%使用するベースラインを上回り、公平性と誤差の両面で優れている。
• ラベル取得量が1%から10%に増加する間に、AuFairのパレートフロンティアは顕著に改善するが、10%を超えると収束効果が顕著になる。
• AuFairは、あらゆる予算レベルでEOPベースラインを上回っており、バイアスが低く、または誤差が低い解決策を提供している。
• アクティブラーニング戦略は、情報量の多いインスタンスを効果的に特定し、最小限のラベルクエリで分散を低減し、モデル性能を向上させた。
• 本手法は、タスク固有の最適なトレードオフを選択可能な、公平性と精度のフロンティア上の柔軟な解決策のセットを成功裏に提供した。