[논문 리뷰] Characterizing Bias in Classifiers using Generative Models

Daniel McDuff, Shuang Ma외 2명|arXiv (Cornell University)|2019. 05. 30.

Generative Adversarial Networks and Image Synthesis참고 문헌 41인용 수 18

한 줄 요약

이 논문은 레이스 및 성별 편향을 체계적으로 점검하기 위해 점진적 조건부 GAN과 베이지안 최적화를 활용한 시뮬레이션 기반 방법을 제안한다. 이는 다양한 실사적인 얼굴 이미지를 생성함으로써 상용 API에서의 실패 모드를 효율적으로 규명하며, 아프리카계 및 남아시아계 개인에서 얼굴 검출 및 성별 분류 분야에서 훨씬 높은 오류율을 드러내어, 랜덤 샘플링에 비해 훨씬 적은 샘플로 숨겨진 편향을 드러내는 데서 그 방법의 효과성을 입증한다.

ABSTRACT

Models that are learned from real-world data are often biased because the data used to train them is biased. This can propagate systemic human biases that exist and ultimately lead to inequitable treatment of people, especially minorities. To characterize bias in learned classifiers, existing approaches rely on human oracles labeling real-world examples to identify the "blind spots" of the classifiers; these are ultimately limited due to the human labor required and the finite nature of existing image examples. We propose a simulation-based approach for interrogating classifiers using generative adversarial models in a systematic manner. We incorporate a progressive conditional generative model for synthesizing photo-realistic facial images and Bayesian Optimization for an efficient interrogation of independent facial image classification systems. We show how this approach can be used to efficiently characterize racial and gender biases in commercial systems.

연구 동기 및 목표

• 학습된 분류기에서 편향을 식별하고 특성화하는 데 실용적인 도구가 부족한 데 대비하기 위해.
• 인간 레이블링 데이터와 랜덤 샘플링의 한계를 극복하여 분류기의 실패 모드를 체계적이고 효율적으로 탐색할 수 있도록 하기 위해.
• 인종과 성별에 조건부로 설정된 다양한 실사적인 얼굴 이미지를 생성함으로써 분류기 성능을 탐사할 수 있는 확장 가능한 시뮬레이션 기반 접근법을 개발하기 위해.
• 낮은 전반적 오류율로 인해 일반적으로 탐지하기 어려운, 상업적 API에서의 체계적 편향을 효율적으로 드러낼 수 있음을 보여주기 위해.
• 민족적 다양성을 반영한 합성 데이터를 활용해 얼굴 분류기의 엄격한 벤치마킹을 위한 프레임워크를 제공하기 위해.

제안 방법

• 레이스와 성별에 조건부로 설정된 고해상도이고 다양한 얼굴 이미지를 합성할 수 있도록 점진적 조건부 생성 대비 신경망(GAN)을 훈련하여, 모든 민족 집단에서 균형 잡힌 표현을 확보한다.
• 인간 평가를 통해 조건부 레이블과 인간이 인식한 특성 간의 높은 일致성을 입증하였으며, 모든 인종 및 성별 범주에서 일관된 이미지 품질을 확보하였다.
• 분류 손실(대상 분류기로부터 유도)과 다양성 손실을 조합한 복합 손실 함수를 사용하여 베이지안 최적화가 잠재 공간 탐색을 유도한다.
• 베이지안 최적화를 통해 잠재 공간의 미탐색 영역 탐색(탐색)과 고오류 영역 집중(이득)의 균형을 맞춰 실패 탐지 효율을 극대화한다.
• 손실 함수를 잠재 매개변수에 대해 모델링하기 위해 가우시안 프로세스를 사용하여 얼굴 이미지 공간의 효율적이고 적응적인 샘플링을 가능하게 한다.
• 이 방법은 얼굴 검출 및 성별 분류를 위한 상용 API에 적용되었으며, 인종과 성별로 정의된 민족 집단 간 성능 평가가 수행되었다.

실험 결과

연구 질문

• RQ1 조건부 생성 모델이 민족과 성별에 따라 신뢰성 있게 조건부 설정된 실사적인 얼굴 이미지를 생성할 수 있으며, 모든 집단에서 일관된 품질을 유지할 수 있는가?
• RQ2 랜덤 샘플링에 비해 베이지안 최적화가 얼굴 분류기의 실패 모드를 얼마나 효율적으로 탐지할 수 있는가?
• RQ3 다양한 합성 데이터로 조사했을 때 상용 얼굴 분류 API에서 인종 및 성별 편향의 정도는 어느 정도인가?
• RQ4 오류율은 피부 톤과 성별 특징에 따라 어떤 식으로 민족 집단 간에 달라지는가?
• RQ5 최적화 과정에서 탐색과 이득의 균형이 분류기 실패 탐지에 어떤 영향을 미치는가?

주요 결과

• 조건부 GAN은 조건부 레이블과 인간의 인식 간 강한 일致성을 보이며, 민족과 성별에 대해 신뢰성 있게 조건부 설정된 고품질의 다양한 얼굴 이미지를 성공적으로 생성하였다.
• 베이지안 최적화 방법은 랜덤 샘플링 대비 약 50% 더 많은 실패 케이스를 더 적은 쿼리 수로 탐지하여, 편향 탐지에서 뛰어난 효율성을 입증하였다.
• IBM 얼굴 검출 API는 아프리카계 얼굴에서 백인 및 동북아시아계 얼굴보다 오류율이 4배 이상 높았으며, 피부 톤과 관련된 강력한 편향을 보였다.
• 성별 검출 오류는 아프리카계에서 가장 높았고, 동북아시아계에서도 뚜렷한 높은 오류율을 보였으며, 피부 톤 외에도 털이나 메이크업과 같은 요소가 잘못 분류에 기여할 수 있음을 시사했다.
• 탐색과 이득의 최적 균형(α = 0.6)이 실패 탐지를 최대화하여, 새로운 영역 탐색과 고오류 영역 집중의 중요성을 확인하였다.
• 이 방법은 상용 시스템의 편향이 존재할 뿐 아니라, 특히 어두운 피부를 가진 소수 민족 집단에 집중적으로 집중되어 있음을 드러내었다.