[論文レビュー] End-To-End Bias Mitigation: Removing Gender Bias in Deep Learning

Tal Feldman, Abigail Peake|arXiv (Cornell University)|Apr 6, 2021

Ethics and Social Impacts of AI参考文献 54被引用数 20

ひとこと要約

本論文は、事前処理、処理中処理、事後処理の技術を統合したエンドツーエンドのバイアス軽減フレームワークを提案し、ディープラーニングモデルにおける性別バイアスを低減する。Adultデータセット上で評価した結果、個別の手法よりも公平性指標で優れた性能を示した一方で、高い精度を維持しており、統合的手法がパフォーマンスを犠牲にせずにより強固な公平性を実現できることを示している。

ABSTRACT

Machine Learning models have been deployed across many different aspects of society, often in situations that affect social welfare. Although these models offer streamlined solutions to large problems, they may contain biases and treat groups or individuals unfairly based on protected attributes such as gender. In this paper, we introduce several examples of machine learning gender bias in practice followed by formalizations of fairness. We provide a survey of fairness research by detailing influential pre-processing, in-processing, and post-processing bias mitigation algorithms. We then propose an end-to-end bias mitigation framework, which employs a fusion of pre-, in-, and post-processing methods to leverage the strengths of each individual technique. We test this method, along with the standard techniques we review, on a deep neural network to analyze bias mitigation in a deep learning setting. We find that our end-to-end bias mitigation framework outperforms the baselines with respect to several fairness metrics, suggesting its promise as a method for improving fairness. As society increasingly relies on artificial intelligence to help in decision-making, addressing gender biases present in deep learning models is imperative. To provide readers with the tools to assess the fairness of machine learning models and mitigate the biases present in them, we discuss multiple open source packages for fairness in AI.

研究の動機と目的

• 医療、刑事司法、採用など、高い影響を持つ分野における実装済みの機械学習モデルにおける性別バイアスの増大する懸念に対処すること。
• 機械学習における公平性を形式化し、既存の事前処理、処理中処理、事後処理のバイアス軽減アルゴリズムを調査すること。
• 複数の軽減戦略を統合した、新たなエンドツーエンドフレームワークの開発と評価を行い、ディープラーニングにおける公平性の向上を図ること。
• 従来、統計モデルに適用されていた公平性技術を、複雑で高次元のモデルに応用できるかを検証するため、ディープラーニング環境に拡張すること。
• バイアス検出および軽減のためのオープンソースツールをレビューし、推奨することで、公平性研究のアクセシビリティを促進すること。

提案手法

• フレームワークは、事前処理（例：重み付けの再調整、敵対的デバイアス）、処理中処理（例：敵対的デバイアス、正確性制約）、事後処理（例：しきい値最適化）の技術を統合した一貫したパイプラインとして統合する。
• 事前処理は、モデル学習の前に、訓練データを調整して人種的差異を低減する。
• 処理中処理は、学習の目的関数を変更することで、公平性制約を強制する。例えば、性別関連の表現を除去するための敵対的訓練を用いる。
• 事後処理は、推論後に予測を再キャリブレーションし、等しいオッズや平均的オッズ差といった公平性指標を改善する。
• エンドツーエンド手法は、これらの3段階を順に適用する：データの再重み付け、敵対的正則化を用いた公平な学習、最終的なしきい値調整。
• フレームワークは、UCI Adultデータセット上で学習されたディープニューラルネットワークを対象とし、等しいオッズ差、平均的オッズ差、統計的パラメータ差といった指標で公平性を測定した。

実験結果

リサーチクエスチョン

• RQ1 事前処理、処理中処理、事後処理の統合的エンドツーエンド手法は、ディープラーニングにおいて個別の手法よりも優れた公平性を達成できるか？
• RQ2 複数の軽減戦略を統合することで、等しいオッズ差や平均的オッズ差といった公平性指標はどのように変化するか？
• RQ3 従来、統計モデルに設計された既存の公平性アルゴリズムが、どのようにして効果的にディープニューラルネットワークに適応・適用できるか？
• RQ4 バイアス軽減技術の統合は、顕著に公平性を向上させながらも、モデルの精度を保持できるか？
• RQ5 オープンソースの公平性ツールは、実世界の機械学習アプリケーションにおけるバイアス軽減の実装と評価をどのように支援するか？

主な発見

• 事前・処理中・事後処理を統合したエンドツーエンドの軽減モデルは、等しいオッズ差と平均的オッズ差の両方で、すべての個別手法を上回る性能を達成した。
• 『事前＋事後』を除くすべての統合アルゴリズムが0.81以上の精度を達成し、エンドツーエンドモデルは0.81の精度を維持しながら、顕著に公平性が向上した。
• 単一の手法（事前、処理中、または事後）では、ディープラーニング環境において3つの公平性指標すべてで公平性を達成できなかったが、エンドツーエンドフレームワークは、すべての指標で公平性を達成した。
• エンドツーエンド手法は、各コンponent技術の長所を効果的に活用し、高い精度と一貫した公平性を兼ね備えたモデルを実現した。
• 本研究は、複数のバイアス軽減戦略を統合することは、複雑で現実世界の応用に適したディープラーニングモデルにおいて、より公平なモデルを構築するための実用的で効果的な道筋であることを示している。