[논문 리뷰] Comparing Human and Machine Bias in Face Recognition

Samuel Dooley, Ryan Downing외 11명|ArXiv.org|2021. 10. 15.

Face recognition and analysis참고 문헌 48인용 수 6

한 줄 요약

이 연구는 인간과 기계의 편향을 비교하기 위해 LFW와 CelebA 데이터셋을 개선하여 데이터 결함을 제거한 후, 동일한 확인 및 식별 작업을 인간(n=545)과 기계 모델에게 수행한다. 결과적으로 인간과 학술 모델 모두 성별 및 피부색에 대한 유사한 수준의 편향을 보이며, 상업용 API는 거의 완벽한 정확도를 보이며 눈에 띄는 편차가 거의 없음을 확인한다.

ABSTRACT

Much recent research has uncovered and discussed serious concerns of bias in facial analysis technologies, finding performance disparities between groups of people based on perceived gender, skin type, lighting condition, etc. These audits are immensely important and successful at measuring algorithmic bias but have two major challenges: the audits (1) use facial recognition datasets which lack quality metadata, like LFW and CelebA, and (2) do not compare their observed algorithmic bias to the biases of their human alternatives. In this paper, we release improvements to the LFW and CelebA datasets which will enable future researchers to obtain measurements of algorithmic bias that are not tainted by major flaws in the dataset (e.g. identical images appearing in both the gallery and test set). We also use these new data to develop a series of challenging facial identification and verification questions that we administered to various algorithms and a large, balanced sample of human reviewers. We find that both computer models and human survey participants perform significantly better at the verification task, generally obtain lower accuracy rates on dark-skinned or female subjects for both tasks, and obtain higher accuracy rates when their demographics match that of the question. Computer models are observed to achieve a higher level of accuracy than the survey participants on both tasks and exhibit bias to similar degrees as the human survey participants.

연구 동기 및 목표

• 기존 얼굴 인식 데이터셋에서 중복 이미지와 잘못된 레이블과 같은 심각한 결함이 편향 측정에 영향을 미치는 것을 해결하기 위해.
• 통제된 균형 잡힌 실험 설계를 통해 알고리즘 편향을 얼굴 인식 시스템과 인간의 편향과 비교하기 위해.
• 기계 모델이 비전문가 인간 평가자와 유사한 크기와 방향의 편향 패턴을 보이는지 평가하기 위해.
• 학술 모델과 상업용 얼굴 인식 모델의 성능을 다양한 인구 통계적 하위군에서 인간 참가자들과 비교하기 위해.
• 향후 얼굴 인식의 공정성과 정확성에 관한 연구를 위한 고품질의 정제된 데이터셋과 설문지 도구를 제공하기 위해.

제안 방법

• 중복 이미지, 잘못된 레이블, 품질 일관성 문제를 제거하기 위해 LFW와 CelebA 데이터셋을 수작업으로 정제하고 청소하였다.
• 확인(1:1) 및 식별(1:다수) 작업을 위한 성별과 피부색에 균형 잡힌 표현을 가진 새로운 데이터셋을 구축하였다.
• 다양한 인구 통계적 군집에서 얼굴 인식 정확도를 평가하기 위해 545명의 비전문가 인간 참가자에게 표준화된 설문지를 시행하였다.
• 동일한 작업에 대해 학술적으로 훈련된 얼굴 인식 모델과 상업용 API(AWS, Azure, Face++ 등)를 평가하였다.
• 성별 및 피부색에 따른 성능 격차를 분석하기 위해 t-검정과 로지스틱 회귀를 사용하였으며, 인간과 기계 결과를 비교하였다.
• 편향 크기를 정량화하고 통계적 유의성을 평가하기 위해 오즈비율과 95% 신뢰구간을 보고하였다.

실험 결과

연구 질문

• RQ1 얼굴 인식 시스템이 비전문가 인간 평가자와 유사한 크기와 방향의 편향 패턴을 보이는가?
• RQ2 LFW와 CelebA와 같은 표준 데이터셋에서의 데이터 품질 문제는 알고리즘 편향 측정에 어떤 영향을 미치는가?
• RQ3 피험자와 평가자(인간 또는 기계) 간의 인구 통계적 불일치가 인식 정확도에 어느 정도 영향을 미치는가?
• RQ4 상업용 얼굴 인식 API의 성능은 학술 모델과 인간 참가자들과 비교해 편향과 정확도 측면에서 어떻게 다른가?
• RQ5 동일한 데이터셋을 사용하여 인간과 기계의 얼굴 인식 작업 성능을 공정하게 비교할 수 있는가?

주요 결과

• 인간 참가자와 학술 얼굴 인식 모델 모두 밝은 피부색과 남성 대상에 비해 어두운 피부색과 여성 대상에서 유의미하게 낮은 성능을 보였다.
• 인간과 학술 모델 모두 성별 편향의 크기가 통계적으로 유사했으며, 확인 작업에서 잘못 식별될 확률의 오즈비율은 인간의 경우 1.33–1.46, 모델의 경우 1.02–1.61이었다.
• 식별 작업에서는 성별 편향 효과도 유사했으며, 오즈비율은 인간의 경우 1.84–2.10, 학술 모델의 경우 1.43–2.17이었다.
• 피부색 편향(밝은 피부 대비 어두운 피부) 역시 인간과 모델 간의 신뢰구간이 겹치며 유사한 편향 크기를 나타내었다.
• 상업용 API(AWS, Face++)는 두 작업에서 97.3% 이상의 정확도를 기록했으며, 성별이나 피부색에 따른 통계적 유의성 있는 격차는 없었다.
• Azure는 통계적으로 유의미한 남성 성별 편향을 보였으며(오즈비율 = 1.76, p = 0.041), 그 크기는 인간과 학술 모델에서 관찰된 것과 유사했다.