[論文レビュー] Fair Balance: Mitigating Machine Learning Bias Against Multiple Protected Attributes With Data Balancing.

Zhe Yu|arXiv (Cornell University)|Jul 17, 2021

Ethics and Social Impacts of AI参考文献 11被引用数 6

ひとこと要約

本稿では、訓練データの分布を均等化することで、複数の保護的属性（例：人種および性別）にわたるバイアスを同時に軽減するデータバランス化手法FairBalanceを提案する。不偏のラベルが与えられた場合、FairBalanceはモデルの性能を損なわずに、AOD、EOD、SPDといった公平性指標を顕著に低減する。

ABSTRACT

This paper aims to improve machine learning fairness on multiple protected at-tributes. Machine learning fairness has attracted increasing attention since machine learning models are increasingly used for high-stakes and high-risk decisions. Most existing solutions for machine learning fairness only target one protected attribute(e.g. sex) at a time. These solutions cannot generate a machine learning model which is fair against every protected attribute (e.g. both sex and race) at the same time. To solve this problem, we propose FairBalance in this paper to balance the distribution of training data across every protected attribute before training the machine learning models. Our results show that, under the assumption of unbiased ground truth labels, FairBalance can significantly reduce bias metrics (AOD, EOD, and SPD) on every known protected attribute without much, if not any damage to the prediction performance.

研究の動機と目的

• 一度に一つの保護的属性にのみ焦点を当てている既存の公平性手法におけるギャップを埋める。
• 人種や性別のような複数の保護的属性に対するバイアスを同時に軽減する手法を開発する。
• 公平性の向上がモデルの予測性能を損なわないことを保証する。
• すべての保護的属性にわたる訓練データの分布をバランスさせる。

提案手法

• 訓練データにおけるすべての保護的属性の組み合わせの表現を均等化するデータバランス化技術を適用する。
• バランス化プロセスをガイドするために、不偏の真のラベルの仮定を用いる。
• 保護的属性にわたるモデルの出力における格差を最小化するように訓練データの分布を調整する。
• バランス化プロセスが全体的なデータ品質およびモデルの有用性を保持することを保証する。
• アーキテクチャの変更なしに、バランス化されたデータを標準的な機械学習トレーニングパイプラインに統合する。

実験結果

リサーチクエスチョン

• RQ1 単一のデータバランス化手法が、複数の保護的属性にわたって同時にバイアスを効果的に低減できるか。
• RQ2 訓練データの分布をバランス化することで、AOD、EOD、SPDといった公平性指標がすべての保護的属性にわたって向上するか。
• RQ3 提案手法がモデルの予測性能をどの程度維持するか、あるいは低下させるか。
• RQ4 不偏の真のラベルの仮定のもとで、FairBalanceはどの程度の性能を発揮するか。

主な発見

• FairBalanceは、すべての保護的属性にわたって平均的オッズ差（AOD）を顕著に低減する。
• FairBalanceは、すべての保護的属性について、同等の機会差（EOD）を著しく低減する。
• FairBalanceは、すべての保護的属性にわたって統計的差分（SPD）を顕著に低減する。
• 本手法は、性能の低下を引き起こさずに、モデルの予測性能を維持または向上させる。