[論文レビュー] Fairness GAN

Prasanna Sattigeri, Samuel C. Hoffman+2 more|arXiv (Cornell University)|May 24, 2018

Ethics and Social Impacts of AI参考文献 26被引用数 7

ひとこと要約

Fairness GANは、割り当て意思決定における公平性を向上させるために、特徴量の平等と機会の平等を促進することで、マルチメディアデータセットを生成する新しい補助分類器GANを導入している。この手法は、CelebAなどのラベルなしデータを活用し、サッカー選手の画像のような小さなデータセットを拡張することで、画像の現実性を保ちながらも公平性を著しく向上させている。

ABSTRACT

In this paper, we introduce the Fairness GAN, an approach for generating a dataset that is plausibly similar to a given multimedia dataset, but is more fair with respect to protected attributes in allocative decision making. We propose a novel auxiliary classifier GAN that strives for demographic parity or equality of opportunity and show empirical results on several datasets, including the CelebFaces Attributes (CelebA) dataset, the Quick, Draw! dataset, and a dataset of soccer player images and the offenses they were called for. The proposed formulation is well-suited to absorbing unlabeled data; we leverage this to augment the soccer dataset with the much larger CelebA dataset. The methodology tends to improve demographic parity and equality of opportunity while generating plausible images.

研究の動機と目的

• 割り当て意思決定における保護属性に関して、より公平なマルチメディアデータセットを生成する生成モデルを開発すること。
• データ拡張を通じて、特徴量の平等と機会の平等を促進することにより、機械学習における公平性を向上させること。
• ラベルなしデータ（例：CelebA）を小さなラベル付きデータセットに統合し、データ品質を損なわずに公平性を向上させること。

提案手法

• 本手法は、トレーニング中に公平性指標を明示的に最適化する新しい補助分類器GANアーキテクチャを採用している。
• 生成器を保護属性で条件づけ、損失関数をそれに応じて調整することで、特徴量の平等と機会の平等を実現している。
• 本フレームワークは、CelebAデータセットのような大量のラベルなしデータを吸収できるように設計されており、小さなラベル付きデータセットにおける公平性を向上させることを目的としている。
• 生成器は、人間の視認に耐える現実的で、かつデモグラフィックグループ間でバランスの取れた合成画像を生成する。
• 識別器は、本物の画像と偽物の画像を区別するとともに、保護属性の分類も行い、公平性をガイドする。
• 本手法は、画像の忠実度とデモグラフィック公平性の両立を図るため、公平性に配慮した損失成分を備えた条件付きGANの設定を採用している。

実験結果

リサーチクエスチョン

• RQ1 GANベースのアプローチは、割り当て意思決定における公平性を向上させる合成マルチメディアデータを効果的に生成できるか？
• RQ2 Fairness GANは、特徴量の平等と機会の平等を向上させながらも、画像の現実性をどの程度維持できるか？
• RQ3 顔認識やスポーツ関連データなど、多様なソースからのラベルなしデータ（例：CelebA）は、小さなタスク固有のデータセットにおける公平性をどの程度向上させられるか？

主な発見

• Fairness GANは、生成されたデータセットにおいて、保護属性にかかわらず特徴量の平等が著しく向上した。
• 本手法は機会の平等を向上させ、デモグラフィックグループ間での意思決定結果の格差を低減した。
• ラベルなしCelebAデータの統合により、小さなサッカー選手データセットにおける公平性が顕著に向上した。
• 生成された画像は現実的で視覚的にも自然であり、データ品質を損なわず公平性が向上した。
• 本手法は顔画像やスポーツ関連データを含む多様なマルチメディアデータセットにスケーラブルかつ適応可能であることが示された。