[논문 리뷰] Assessing Demographic Bias Transfer from Dataset to Model: A Case Study in Facial Expression Recognition

Iris Dominguez-Catena, Daniel Paternain외 1명|arXiv (Cornell University)|2022. 05. 20.

Emotion and Mood Recognition인용 수 4

한 줄 요약

이 논문은 얼굴 표정 인식(FER)에서 데이터셋에서 모델로의 민족 및 성별에 대한 대표성 불균형과 고정관념적 편향을 평가하기 위한 새로운 메트릭 프레임워크를 제안한다. AffectNet 데이터셋을 사용하여 심각한 민족적 부족대표성과 성별 고정관념을 확인하였으며, 성별 편향이 모델로 강하게 전이되는 반면, 민족적 편향은 데이터셋 균형 조정 후에도 모델 성능에 유의미한 영향을 미치지 않는 것으로 나타났다.

ABSTRACT

The increasing amount of applications of Artificial Intelligence (AI) has led researchers to study the social impact of these technologies and evaluate their fairness. Unfortunately, current fairness metrics are hard to apply in multi-class multi-demographic classification problems, such as Facial Expression Recognition (FER). We propose a new set of metrics to approach these problems. Of the three metrics proposed, two focus on the representational and stereotypical bias of the dataset, and the third one on the residual bias of the trained model. These metrics combined can potentially be used to study and compare diverse bias mitigation methods. We demonstrate the usefulness of the metrics by applying them to a FER problem based on the popular Affectnet dataset. Like many other datasets for FER, Affectnet is a large Internet-sourced dataset with 291,651 labeled images. Obtaining images from the Internet raises some concerns over the fairness of any system trained on this data and its ability to generalize properly to diverse populations. We first analyze the dataset and some variants, finding substantial racial bias and gender stereotypes. We then extract several subsets with different demographic properties and train a model on each one, observing the amount of residual bias in the different setups. We also provide a second analysis on a different dataset, FER+.

연구 동기 및 목표

• 기존 메트릭이 데이터셋과 모델의 편향을 분리하지 못하는 다중 클래스, 다중 민족/성별 문제인 FER에 대한 공정성 메트릭의 부족을 해결하기 위해.
• 학습 데이터에서 학습된 모델로의 편향 전이를 체계적으로 측정할 수 있는 방법론을 개발하여, 완화 전략 평가를 가능하게 하기 위해.
• 특히 AffectNet을 포함한 실제 FER 데이터셋에서 대표성 불균형과 고정관념적 연관성과 같은 민족적 편향을 분석하기 위해.
• 민족 또는 성별에 따라 데이터셋 수준의 편향 완화(예: 균형 조정)가 학습된 모델의 잔여 편향에 어떤 영향을 미치는지 평가하기 위해.
• 두 번째 데이터셋(FER+)을 활용하여 다양한 데이터 분포에서 연구 결과의 일반화를 검증하기 위해.

제안 방법

• 세 가지 새로운 메트릭을 제안: 데이터셋 편향 측정을 위한 두 가지(대표성 불균형 및 NMI/NPMI를 통한 고정관념 편향), 그리고 모델 잔여 편향 측정을 위한 하나.
• 기본값 민족 및 성별 정보가 없는 경우, FairFace라는 미리 훈련된 모델을 사용하여 AffectNet 및 FER+의 얼굴 이미지에서 추론된 민족 및 성별을 활용.
• 정규화된 상호정보량(NMI)과 정규화된 점별 상호정보량(NPMI)을 사용하여 민족 집단과 표정 클래스 간의 고정관념적 연관성을 정량화.
• 표현 클래스별로 민족 집단 간 재현율 변동을 캡처하는 단일 값 메트릭(OD)을 통해 모델 편향을 측정.
• 다양한 데이터셋 변형(계층적, 민족 균형, 성별 균형 서브셋)을 사용하여 모델을 훈련시켜 편향 전이를 비교.
• 훈련 크기를 변화시켜 데이터 양과 질이 편향 전파에 어떤 영향을 미치는지 분석하는 정량적 분석을 수행.

실험 결과

연구 질문

• RQ1 AffectNet 데이터셋의 대표성 불균형은 얼굴 표정 인식에서 모델의 공정성에 어느 정도 영향을 미치는가?
• RQ2 특정 민족 집단이 특정 표정과 과도하게나 또는 부족하게 연관되는 고정관념적 편향이 모델 예측에 어떤 영향을 미치는가?
• RQ3 민족 또는 성별에 따라 데이터셋을 균형 조정하면 학습된 모델의 잔여 편향이 감소하는가? 만약 그렇다면, 어느 민족적 요소가 더 강한 영향을 미치는가?
• RQ4 훈련 데이터 크기가 대표성 또는 고정관념 편향과 무관하게 모델로의 편향 전이에 어떤 영향을 미치는가?
• RQ5 제안된 메트릭은 다양한 FER 데이터셋과 모델 구성에서 편향 전이의 탐지 및 정량화에 효과적인가?

주요 결과

• AffectNet 데이터셋은 심각한 대표성 불균형을 보이며, 일부 민족 집단이 현저히 부족대표되고 다른 집단은 과대표되고 있다.
• 성별 연관성에 있어서 고정관념 편향이 뚜렷하다: 여성은 '행복'이나 '슬픔'과 비율이 높게 연관되어 있는 반면, 남성은 감정 카테고리에서 부족대표되어 있다.
• 민족에 따라 데이터셋을 균형 조정한 후에도 학습된 모델의 민족적 편향은 거의 변화하지 않아, 간단한 균형 조정만으로는 민족적 편향 전이를 쉽게 완화할 수 없음을 시사한다.
• 성별 균형 조정된 데이터셋은 모델 편향을 크게 감소시켜, 데이터 내 성별 고정관념이 모델 예측에 강력한 영향을 미친다는 것을 보여준다.
• 대표성 및 고정관념 편향을 일정하게 유지하면서도 훈련 데이터 크기가 증가할수록 모델 편향이 감소함을 확인하여, 데이터의 양이 편향 완화에 기여함을 시사한다.
• 제안된 메트릭은 편향 전이를 성공적으로 정량화하였으며, 이 FER 맥락에서 성별 편향이 민족적 편향보다 모델의 공정성에 더 큰 영향을 미친다는 것을 드러냈다.