[論文レビュー] Improving Fairness of AI Systems with Lossless De-biasing

Yan Zhou, Murat Kantarcıoğlu+1 more|arXiv (Cornell University)|May 10, 2021

Ethics and Social Impacts of AI参考文献 11被引用数 6

ひとこと要約

本稿では、元のデータの意味を変更せずに、合成データ生成によるアンダーレプライゼッドグループのオーバースマッピングを通じて、情報損失のないデバイアス化技術を提案する。この手法は、クラスの不均衡を軽減することで、公平性と精度の両方を向上させ、複数の実世界のデータセットにおいて、既存の前処理・内処理・後処理手法を上回る性能を発揮する。

ABSTRACT

In today's society, AI systems are increasingly used to make critical decisions such as credit scoring and patient triage. However, great convenience brought by AI systems comes with troubling prevalence of bias against underrepresented groups. Mitigating bias in AI systems to increase overall fairness has emerged as an important challenge. Existing studies on mitigating bias in AI systems focus on eliminating sensitive demographic information embedded in data. Given the temporal and contextual complexity of conceptualizing fairness, lossy treatment of demographic information may contribute to an unnecessary trade-off between accuracy and fairness, especially when demographic attributes and class labels are correlated. In this paper, we present an information-lossless de-biasing technique that targets the scarcity of data in the disadvantaged group. Unlike the existing work, we demonstrate, both theoretically and empirically, that oversampling underrepresented groups can not only mitigate algorithmic bias in AI systems that consistently predict a favorable outcome for a certain group, but improve overall accuracy by mitigating class imbalance within data that leads to a bias towards the majority class. We demonstrate the effectiveness of our technique on real datasets using a variety of fairness metrics.

研究の動機と目的

• 特権的デモグラフィックグループに偏りが生じるAIシステムにおけるアルゴリズムバイアスを是正すること。
• データ変換や歪みによって情報損失を引き起こす既存のデバイアス化手法の限界を克服すること。
• クラスの不均衡に焦点を当てることで、精度を損なわず公平性を向上させること。
• 元のデータの事前分布を保持しつつ、不利な立場にあるグループの表現を強化する合成データ生成アプローチを開発すること。
• 複数の公平性指標を用いて、多様なデータセット上で本手法の実証的妥当性を検証すること。

提案手法

• 本手法は、ベースレートの差が有利な予測に起因する領域に焦点を当て、訓練セットにおけるアンダーレプライゼッドグループを合成データでオーバースマッピングする。
• 合成データ生成中に元のデータ分布とクラス事前確率を保持することで、情報損失を回避する。
• バイアスのパターンに応じて、アンダーレプライゼッドグループの好まれるクラスまたは特権的グループの好まれないクラスの両方をオーバースマッピングする。
• 統計的性質を保持しつつマイノリティグループの表現を増加させるデータ拡張戦略を用いて、合成サンプルを生成する。
• モデル学習の前処理パイプラインとして適用され、学習アルゴリズムを変更せずに公平性を向上させる。
• 公平性指標（Theilインデックス、等しい機会差、平均オッズ差）を複数のデータセットで評価する。

実験結果

リサーチクエスチョン

• RQ1 合成データ生成は、情報損失や精度の低下を引き起こさずにAIシステムの公平性を向上させることができるか？
• RQ2 アンダーレプライゼッドグループのオーバースマッピングは、等しい機会や平均オッズ差といった公平性指標にどのように影響するか？
• RQ3 提案手法は、公平性と精度のトレードオフにおいて、既存の前処理・内処理・後処理手法を上回る性能を示すか？
• RQ4 アンダーレプライゼッドグループの好まれるクラスをオーバースマッピングする場合と、特権的グループの好まれないクラスをオーバースマッピングする場合とでは、どのような状況で公平性の向上が顕著に現れるか？
• RQ5 元のデータ分布を保持しつつ、モデル予測におけるベースレートの差を効果的に是正できるか？

主な発見

• 提案されたデバイアス化手法は、全テストデータセットにおいて、Reweighing、Prejudice Remover、Reject Optionといった既存手法を公平性指標で一貫して上回った。
• Compasデータセットでは、対応t検定でp値 < 0.002の有意な公平性向上が達成され、ベースラインと比較して精度は3%以内に保たれた。
• Bankデータセットでは、本手法が最も効果的に公平性を向上させ、Prejudice Removerを著しく上回り、Reject Optionと同等の公平性を達成したが、精度の低下と分散がはるかに少なかった。
• Medical Expense Priceデータセットでは、Reweighing、Prejudice Remover、Reject Optionと同等またはそれ以上の性能を示し、特にTheilインデックスと等しい機会差において顕著な優位性を示した。
• アンダーレプライゼッドグループの好まれるクラスと特権的グループの好まれないクラスの両方をオーバースマッピングした併用ケースは中間的な結果を示し、本手法の柔軟性と頑健性を裏付けた。
• ロジスティック回帰、ランダムフォレスト、SVM、ニューラルネットワークといった多様なモデルにおいて、本手法は一貫した公平性向上を示し、良好な一般化性能を示した。