[논문 리뷰] Exposing and Correcting the Gender Bias in Image Captioning Datasets and Models

Shruti Bhargava Choubey, David Forsyth|arXiv (Cornell University)|2019. 12. 01.

Multimodal Machine Learning Applications인용 수 15

한 줄 요약

이 논문은 성별 중립적 캡션 생성과 성별 분류를 분리하여 이미지 캡션 생성에서 성별 편향을 제거하기 위한 이단계적 접근을 제안한다. 성별 기반의 편향을 피하는 성별 중립적 캡션 모델을 훈련시킨 후, 정교한 인물 클립 분류기와 결합하여 정확한 성별 레이블을 삽입함으로써, 데이터셋 편향을 유전하지 않으면서도 반형태적 기준에서 최고 성능을 달성한다.

ABSTRACT

The task of image captioning implicitly involves gender identification. However, due to the gender bias in data, gender identification by an image captioning model suffers. Also, the gender-activity bias, owing to the word-by-word prediction, influences other words in the caption prediction, resulting in the well-known problem of label bias. In this work, we investigate gender bias in the COCO captioning dataset and show that it engenders not only from the statistical distribution of genders with contexts but also from the flawed annotation by the human annotators. We look at the issues created by this bias in the trained models. We propose a technique to get rid of the bias by splitting the task into 2 subtasks: gender-neutral image captioning and gender classification. By this decoupling, the gender-context influence can be eradicated. We train the gender-neutral image captioning model, which gives comparable results to a gendered model even when evaluating against a dataset that possesses a similar bias as the training data. Interestingly, the predictions by this model on images with no humans, are also visibly different from the one trained on gendered captions. We train gender classifiers using the available bounding box and mask-based annotations for the person in the image. This allows us to get rid of the context and focus on the person to predict the gender. By substituting the genders into the gender-neutral captions, we get the final gendered predictions. Our predictions achieve similar performance to a model trained with gender, and at the same time are devoid of gender bias. Finally, our main result is that on an anti-stereotypical dataset, our model outperforms a popular image captioning model which is trained with gender.

연구 동기 및 목표

• COCO 이미지 캡션 데이터셋의 성별 편향을 조사하고 폭 드러내며, 편향이 있는 인간의 주석과 통계적 불균형을 포함한다.
• 자기회귀적 캡션 생성에서 레이블 편향과 맥락 의존성으로 인해 훈련 데이터의 성별 편향이 모델로 어떻게 전파되는지 분석한다.
• 높은 캡션 품질을 유지하면서도 이미지 캡션 생성에서 성별 편향을 제거하는 방법을 개발한다.
• 훈련 단계에서 성별 편향을 제거함으로써 반형태적 이미지에서 모델의 일반화 능력 향상이 이루어지는지 입증한다.

제안 방법

• 이미지 캡션 생성을 두 가지 하위 작업으로 분해: 성별 중립적 캡션 생성과 별도의 성별 분류.
• COCO 캡션의 모든 성별 지시어와 서술어를 성별 중립적 표현(예: 'man'이나 'woman' 대신 'person')으로 대체하여 성별 중립적 캡션 모델을 훈련시킨다.
• 경계 상자와 신체 마스크를 사용해 맥락에서 주제를 분리하여, 인물만 포함된 이미지 조각에 대해 성별 분류기를 훈련시킨다.
• 훈련된 성별 분류기를 사용해 각 인물의 성별을 예측하고, 예측된 성별을 성별 중립적 캡션에 삽입한다.
• 성별 중립적 캡션과 예측된 성별을 조합하여 최종 성별 기반 캡션을 생성함으로써, 맥락 기반의 성별 추론을 피한다.
• 표준 벤치마크와 반형태적 데이터셋에서 모델을 평가하여 편향 감소 및 성능을 측정한다.

실험 결과

연구 질문

• RQ1 통계적 불균형과 일관성 없는 인간 주석으로 인해 COCO 이미지 캡션 데이터셋에 얼마나 많은 성별 편향이 존재하는가?
• RQ2 이미지 캡션 모델에서 맥락 기반의 성별 편향이 캡션의 비성별 관련 단어 예측에 어떤 영향을 미치는가?
• RQ3 캡션 생성에서 성별 분류를 분리함으로써 레이블 편향을 줄이고 예측의 공정성을 향상시킬 수 있는가?
• RQ4 성별 언어 없이 훈련된 성별 중립적 캡션 모델이 기존 성별 기반 모델보다 반형태적 이미지에 더 잘 일반화되는가?
• RQ5 별도로 고정밀도로 훈련된 인물 기반 성별 분류기가 맥락에 의한 편향을 줄이며 엔드 투 엔드 모델보다 성별 예측 성능을 뛰어넘을 수 있는가?

주요 결과

• 성별 중립적 캡션 모델은 편향된 테스트 세트에서도 성별 기반 모델과 유사한 BLEU 점수를 기록함으로써, 편향 없이도 강건함을 입증한다.
• 사람이 없는 이미지에 대해 성별 중립적 모델은 성별 기반 모델과 눈에 띄게 다른 캡션을 생성함으로써, 편향이 성별 어휘를 넘어서 전체 언어 패턴에 영향을 미친다는 것을 보여준다.
• 인물 클립 기반 성별 분류기는 전체 이미지에서 성별을 추론하려는 캡션 생성 모델보다 유의미하게 높은 정확도를 기록한다.
• 반형태적 데이터셋에서 제안된 모델은 표준 성별 기반 모델을 능가하며, 편향 제거가 일반화 능력을 향상시킨다는 것을 입증한다.
• 레이블 편향이 감소함을 입증하며, 예를 들어 'man in a suit' 대신 'person in a suit'와 같은 표현에서 성별이 관련 없는 단어에 미치는 영향이 줄어들었다.
• 이 방법은 'man and woman' 표현 편향을 성공적으로 완화하였으며, 이는 한 명의 인물만 존재할 때도 성별 기반 모델이 쌍으로 성별 어휘를 과도하게 예측하는 경향을 줄였다.