[논문 리뷰] Image Counterfactual Sensitivity Analysis for Detecting Unintended Bias

Emily Denton, Ben Hutchinson외 3명|arXiv (Cornell University)|2019. 06. 14.

Generative Adversarial Networks and Image Synthesis참고 문헌 38인용 수 19

한 줄 요약

이 논문은 생성적 적대적 네트워크(GAN)를 사용하여 얼굴 특징의 통제된, 현실적인 이미지 변형을 생성하고 분류기의 예측에 미치는 영향을 측정하는 프레임워크인 이미지 반사적 민감도 분석을 제안한다. 미소 속성 분류기 적용 시, 조명, 자세, 피부 톤과 같은 여러 변동 요인들이 예측에 상당한 영향을 미치는 것으로 드러나며, 이는 고위험 응용 분야에서의 의도하지 않은 편향 탐지에 실용적인 접근법을 제공한다.

ABSTRACT

Facial analysis models are increasingly used in applications that have serious impacts on people's lives, ranging from authentication to surveillance tracking. It is therefore critical to develop techniques that can reveal unintended biases in facial classifiers to help guide the ethical use of facial analysis technology. This work proposes a framework called extit{image counterfactual sensitivity analysis}, which we explore as a proof-of-concept in analyzing a smiling attribute classifier trained on faces of celebrities. The framework utilizes counterfactuals to examine how a classifier's prediction changes if a face characteristic slightly changes. We leverage recent advances in generative adversarial networks to build a realistic generative model of face images that affords controlled manipulation of specific image characteristics. We then introduce a set of metrics that measure the effect of manipulating a specific property on the output of the trained classifier. Empirically, we find several different factors of variation that affect the predictions of the smiling classifier. This proof-of-concept demonstrates potential ways generative models can be leveraged for fine-grained analysis of bias and fairness.

연구 동기 및 목표

• 고위험 응용 분야인 감시 및 신원 확인과 같은 분야에서의 의도하지 않은 편향을 탐지하기 위한 방법을 개발하는 것.
• 인종이나 성별과 같은 명백한 속성 외에도 분류기 예측에 영향을 주는 미세하고 명백하지 않은 변동 요인을 식별하는 도전 과제를 해결하는 것.
• 작은 이미지 수준의 변화가 모델 출력에 어떻게 영향을 주는지에 대한 세밀하고 해석 가능한 분석을 가능하게 하는 개념적 실증 프레임워크를 구축하는 것.
• 생성 모델을 활용하여 분류기의 변형된 조건 하에서의 행동을 탐색하기 위한 현실적이고 통제 가능한 반사적 이미지를 생성하는 것.

제안 방법

• 특정 얼굴 특징의 조작을 지원하는 현실적인 얼굴 이미지 다양체를 학습하기 위해 생성적 적대적 네트워크(GAN)를 사용한다.
• 조명, 자세 또는 피부 톤과 같은 특정 속성을 변형시키면서 다른 특징은 일정하게 유지함으로써 반사적 이미지를 생성한다.
• 타겟 모델로 편향 분석을 위한 셀럽 얼굴 이미지에 대해 미소 속성 분류기를 훈련시킨다.
• 특정 이미지 성질의 변화가 미소 속성에 대한 분류기의 출력 확률에 어떻게 영향을 미치는지 정량화하기 위해 일련의 지표를 적용한다.
• 생성된 이미지 내에서 개별 변동 요인을 고립하고 수정하기 위해 분리된 표현 공간을 활용한다.
• 분류기의 예측이 각각 조작된 요인에 얼마나 민감한지 분석하여 편향을 암시하는 패턴을 탐지한다.

실험 결과

연구 질문

• RQ1 조명, 자세, 피부 톤과 같은 통제된 얼굴 이미지 특성의 변화가, 미소 속성 분류기의 예측에 어떻게 영향을 미치는가?
• RQ2 얼굴 이미지의 어떤 특정 변동 요인이 분류기 출력에 상당한 이동을 유도하여 잠재적 편향을 시사하는가?
• RQ3 생성 모델을 사용하여 현실적인 반사적 이미지를 만들 수 있는 정도는 어느 정도이며, 이를 통해 세밀한 공정성 분석이 가능할 수 있는가?
• RQ4 이미지 반사적 기반 민감도 분석이 표준 공정성 지표로는 드러나지 않는 숨겨진 편향을 드러낼 수 있는가?

주요 결과

• 미소 속성 분류기가 실제 얼굴 표정과 무관한 비의미적 이미지 요소인 조명과 자세에 상당한 민감도를 보이며, 이는 실제 표정 외의 원인으로 인한 편향 가능성을 시사한다.
• 피부 톤이 예측 결과에 영향을 미치는 것으로 밝혀져, 모델이 다양한 인구 집단 간에 동일하게 일반화되지 않을 수 있음을 시사한다.
• 이 프레임워크는 얼굴 표정이 그대로 유지된 상태에서도 분류기 예측을 변화시키는 다수의 변동 요인을 성공적으로 식별하였다.
• GAN 기반 반사적 이미지를 활용함으로써 현실적이고 통제 가능한 변형을 구현하여 분석의 해석 가능성과 경험적 기반을 동시에 확보하였다.
• 작은 현실적인 이미지 수준의 변화가 예측에 큰 변화를 유도할 수 있음을 확인하여, 일부 얼굴 분류기가 미세한 시각적 변형에 매우 취약함을 드러냈다.
• 이 방법은 집합적 공정성 지표로만는 탐지되지 않는 편향 패턴을 드러낼 수 있음을 입증하였다.