[논문 리뷰] Fairness GAN

Prasanna Sattigeri, Samuel C. Hoffman외 2명|arXiv (Cornell University)|2018. 05. 24.

Ethics and Social Impacts of AI참고 문헌 26인용 수 7

한 줄 요약

Fairness GAN은 할당 결정에서 인구 통계적 균형과 기회 균등을 증진시켜 더 공정한 멀티미디어 데이터셋을 생성하는 새로운 보조 분류기 GAN을 소개한다. 이는 CelebA와 같은 레이블이 없는 데이터를 활용하여 더 작은 데이터셋인 축구 선수 이미지 데이터셋을 보완함으로써 공정성을 크게 향상시키면서도 이미지의 현실성은 유지한다.

ABSTRACT

In this paper, we introduce the Fairness GAN, an approach for generating a dataset that is plausibly similar to a given multimedia dataset, but is more fair with respect to protected attributes in allocative decision making. We propose a novel auxiliary classifier GAN that strives for demographic parity or equality of opportunity and show empirical results on several datasets, including the CelebFaces Attributes (CelebA) dataset, the Quick, Draw! dataset, and a dataset of soccer player images and the offenses they were called for. The proposed formulation is well-suited to absorbing unlabeled data; we leverage this to augment the soccer dataset with the much larger CelebA dataset. The methodology tends to improve demographic parity and equality of opportunity while generating plausible images.

연구 동기 및 목표

• 할당 결정에서 보호되는 속성에 대해 더 공정한 멀티미디어 데이터셋을 생성하는 생성 모델을 개발하는 것.
• 데이터 증강을 통해 보편적 균형과 기회 균등성을 증진시켜 기계 학습의 공정성 문제를 해결하는 것.
• 레이블이 있는 작은 데이터셋에 레이블이 없는 데이터(예: CelebA)를 통합하여 공정성을 향상시키되, 데이터 품질을 훼손하지 않는 것.

제안 방법

• 이 방법은 훈련 중 공정성 지표를 명시적으로 최적화하는 새로운 보조 분류기 GAN 아키텍처를 활용한다.
• 생성자를 보호되는 속성에 조건부로 설정하고 손실 함수를 조정하여 인구 통계적 균형과 기회 균등성을 강제한다.
• 대규모의 레이블이 없는 데이터(예: CelebA 데이터셋)를 흡수할 수 있도록 설계되어, 더 작은 레이블이 있는 데이터셋의 공정성을 향상시킨다.
• 생성자는 인구 집단 간 균형이 잡히면서도 현실적인 이미지를 생성한다.
• 판별자는 진짜 이미지와 가짜 이미지를 구분하는 동시에 보호되는 속성을 분류하여 공정성을 이끌어내는 데 기여한다.
• 이미지의 정확성과 인구 통계적 공정성을 균형 있게 유지하기 위해 공정성 인식 손실 성분을 갖춘 조건부 GAN 설정을 사용한다.

실험 결과

연구 질문

• RQ1 GAN 기반 접근 방식이 할당 결정에서의 공정성을 향상시키는 데 효과적으로 합성 멀티미디어 데이터를 생성할 수 있는가?
• RQ2 Fairness GAN은 인구 통계적 균형과 기회 균등성을 향상시키는 동안 이미지의 현실성은 얼마나 잘 유지하는가?
• RQ3 다양한 소스에서 온 레이블이 없는 데이터(예: CelebA)가 더 작은 작업 특화 데이터셋의 공정성을 얼마나 향상시킬 수 있는가?

주요 결과

• Fairness GAN은 생성된 데이터셋에서 보호되는 속성에 대해 인구 통계적 균형을 성공적으로 향상시켰다.
• 이 방법은 기회 균등성을 향상시켜 다양한 인구 집단 간 결론의 격차를 줄였다.
• 레이블이 없는 CelebA 데이터의 통합이 작은 축구 선수 데이터셋의 공정성에 상당한 기여를 하였다.
• 생성된 이미지는 현실적이며 시각적으로 자연스럽게 유지되어 데이터 품질을 훼손하지 않으면서도 공정성을 높였다.
• 이 방법은 얼굴 이미지 및 스포츠 관련 데이터를 포함한 다양한 멀티미디어 데이터셋에 대해 확장성과 적응성을 입증하였다.