[論文レビュー] You Can Still Achieve Fairness Without Sensitive Attributes: Exploring Biases in Non-Sensitive Features.

Tianxiang Zhao, Enyan Dai+2 more|arXiv (Cornell University)|Apr 29, 2021

Ethics and Social Impacts of AI参考文献 34被引用数 8

ひとこと要約

この論文は、機密性の高い属性を必要とせず、機密性の高い属性と強く相関する非機密特徴を活用することで、公平な機械学習を達成する新しいフレームワークを提案する。予測結果とこれらの代理特徴の相関を最小化するとともに、その寄与度を動的に重み付けすることで、実世界のデータセットにおいて高い公平性と正確性を達成する。

ABSTRACT

Though machine learning models are achieving great success, ex-tensive studies have exposed their disadvantage of inheriting latent discrimination and societal bias from the training data, which hinders their adoption on high-state applications. Thus, many efforts have been taken for developing fair machine learning models. Most of them require that sensitive attributes are available during training to learn fair models. However, in many real-world applications, it is usually infeasible to obtain the sensitive attribute due to privacy or legal issues, which challenges existing fair classifiers. Though the sensitive attribute of each data sample is unknown, we observe that there are usually some non-sensitive features in the training data that are highly correlated with sensitive attributes, which can be used to alleviate the bias. Therefore, in this paper, we study a novel problem of exploring features that are highly correlated with sensitive attributes for learning fair and accurate classifier without sensitive attributes. We theoretically show that by minimizing the correlation between these related features and model prediction, we can learn a fair classifier. Based on this motivation, we propose a novel framework which simultaneously uses these related features for accurate prediction and regularizing the model to be fair. In addition, the model can dynamically adjust the importance weight of each related feature to balance the contribution of the feature on model classification and fairness. Experimental results on real-world datasets demonstrate the effectiveness of the proposed model for learning fair models with high classification accuracy.

研究の動機と目的

• プライバシーまたは法的制約により機密属性が入手できない状況において、公平な機械学習モデルを訓練する課題に対処すること。
• 機密属性と強く相関する非機密特徴を、公平性低減のための代理として同定すること。
• これらの代理特徴に基づく正則化を用いて、分類の正確性と公平性の両方を同時に高めるフレームワークを開発すること。
• 代理特徴の寄与度を動的に調整することで、正確性と公平性の影響をバランスさせること。

提案手法

• 訓練データ内の機密属性と強く相関する非機密特徴を同定し、それらを代理特徴として使用する。
• 予測結果とこれらの代理特徴の相関を最小化する正則化された目的関数を定式化することでバイアスを低減する。
• 各代理特徴の寄与度を調整する動的重み付けメカニズムを導入し、分類性能と公平性のバランスを取る。
• 正確な予測と公平性正則化を1つのエンドツーエンド学習プロセスに統合する。
• 交差エントロピー損失と公平性正則化項を組み合わせた損失関数を用いて、標準的な最適化手法でフレームワークを訓練する。

実験結果

リサーチクエスチョン

• RQ1 機密属性と相関する非機密特徴を、機械学習モデルの公平性向上に効果的に利用できるか？
• RQ2 機密属性が入手不可な状況で、分類の正確性と公平性のトレードオフをどのようにバランスできるか？
• RQ3 代理特徴の動的重み付けが、公平性と正確性のパフォーマンスに与える影響は何か？
• RQ4 従来の機密属性なしの公平学習手法と比較して、提案フレームワークはバイアス低減においてどの程度有効か？

主な発見

• 提案フレームワークは、機密属性が存在しない状況でも高い公平性を達成し、公平性指標においてベースライン手法を上回る性能を示した。
• 機密属性と相関する代理特徴の使用により、モデルバイアスが顕著に低減されつつ、高い予測正確性を維持した。
• 代理特徴の動的重み付けにより、多様なデータセットにおいて公平性と正確性のバランスを取るモデルの能力が向上した。
• 実世界のデータセットを用いた実証的結果から、予測結果と代理特徴の相関を最小化することで、より公平なモデルの結果が得られることを確認した。