[論文レビュー] FairGAN: Fairness-aware Generative Adversarial Networks

Depeng Xu, Shuhan Yuan+2 more|arXiv (Cornell University)|May 28, 2018

Ethics and Social Impacts of AI参考文献 22被引用数 40

ひとこと要約

FairGAN は、差別的取扱いも差別的影響もない合成データを生成する公平性対応 GAN を紹介する一方で、データの有用性を維持し、実データ上で公正な分類を可能にする。

ABSTRACT

Fairness-aware learning is increasingly important in data mining. Discrimination prevention aims to prevent discrimination in the training data before it is used to conduct predictive analysis. In this paper, we focus on fair data generation that ensures the generated data is discrimination free. Inspired by generative adversarial networks (GAN), we present fairness-aware generative adversarial networks, called FairGAN, which are able to learn a generator producing fair data and also preserving good data utility. Compared with the naive fair data generation models, FairGAN further ensures the classifiers which are trained on generated data can achieve fair classification on real data. Experiments on a real dataset show the effectiveness of FairGAN.

研究の動機と目的

• 予測分析における差別防止を、実データの変更ではなく公正な合成データを生成することで動機づける。
• GANベースのフレームワークを開発し、生成データのデータ有用性と公平性の両方を得る。
• 合成データで訓練された分類器が実データ上で公正で正確な予測を達成することを保証する。

提案手法

• 1つの生成器と2つの識別器を用いて公正な結合分布 P_G(x,y,s) を学習しつつ P_G(x,y|s=1)=P_G(x,y|s=0) を強制する FairGAN を構築する。
• D1 を用いて (x,y,s) 空間で生成データを実データに整合させる。
• D2 を用いて生成された (x,y) と保護属性 s との独立性を強制し、差別的影響を除去する。
• 保護属性 s でジェネレータを条件付けして s が与えられたときの (x̂,ŷ) を生成し、離散および連続属性のためにオートエンコーダベースのアーキテクチャ (G-Dec) を適用する。
• 共同の min-max 目的関数を最適化する: min_G Dec max_D1,D2 V(G Dec, D1, D2) = V1 + λ V2, ここで V1 はデータの現実性を強制し、V2 は条件分布を介して公平性を強制する。
• アルゴリズム1のようにオートエンコーダの事前訓練と敵対的更新を含む訓練アルゴリズムを提供する。

実験結果

リサーチクエスチョン

• RQ1 公正性を損なわず有用性を保つような合成データをどのように生成できるか（差別的取扱いおよび差別的影響を排除）？
• RQ2 GAN ベースのフレームワークは、合成データで訓練された分類器が実データ上でも正確かつ公正であり続ける公正なデータを生成できるか？
• RQ3 公正性制約（λ）の影響は、生成データの有用性と公正性のトレードオフにどのように影響するか？

主な発見

• FairGAN は、生成特徴と保護属性との間の相関を排除することでデータの公正性と分類の公正性を満たすデータを生成できる。
• 理論的分析はミニマックス目的が Jensen-Shannon 距離の和へと縮退することを示し、公正かつ現実的な分布へと収束を導く。
• 素朴な FairGAN 変種と比較して、FairGAN は real データに近い条件分布を達成しつつ P_G(x|s=1) と P_G(x|s=0) を類似させ、予測バイアスを低減する。
• 実データ上の実験結果は、有効な公正データ生成と良好なデータ有用性、および合成データで訓練した分類器の高い精度を示す。