[논문 리뷰] Women also Snowboard: Overcoming Bias in Captioning Models

Kaylee Burns, Lisa Anne Hendricks외 3명|arXiv (Cornell University)|2018. 03. 26.

Multimodal Machine Learning Applications참고 문헌 48인용 수 120

한 줄 요약

이 논문은 Equalizer 모델을 도입하여 Appearance Confusion Loss와 Confident Loss의 두 손실을 사용해 이미지 캡션에서의 성별 편향을 줄이는 방법을 제시한다. 이는 성별 예측이 시각 증거에 의존하도록 하고 테스트 시점에서 다양한 성별 분포에 적응하도록 한다.

ABSTRACT

Most machine learning methods are known to capture and exploit biases of the training data. While some biases are beneficial for learning, others are harmful. Specifically, image captioning models tend to exaggerate biases present in training data (e.g., if a word is present in 60% of training sentences, it might be predicted in 70% of sentences at test time). This can lead to incorrect captions in domains where unbiased captions are desired, or required, due to over-reliance on the learned prior and image context. In this work we investigate generation of gender-specific caption words (e.g. man, woman) based on the person's appearance or the image context. We introduce a new Equalizer model that ensures equal gender probability when gender evidence is occluded in a scene and confident predictions when gender evidence is present. The resulting model is forced to look at a person rather than use contextual cues to make a gender-specific predictions. The losses that comprise our model, the Appearance Confusion Loss and the Confident Loss, are general, and can be added to any description model in order to mitigate impacts of unwanted bias in a description dataset. Our proposed model has lower error than prior work when describing images with people and mentioning their gender and more closely matches the ground truth ratio of sentences including women to sentences including men. We also show that unlike other approaches, our model is indeed more often looking at people when predicting their gender.

연구 동기 및 목표

• 캡션 모델이 학습 데이터에서 성별 편향을 증폭시키는지 식별한다.
• 성별에 대해 옳은 이유를 바탕으로 설명을 촉진하는 편향 완화 캡션 프레임워크를 제시한다.
• 성별 예측이 맥락 cue가 아니라 시각 증거에 의존하도록 한다.
• 학습 데이터와 테스트 세트 간의 분포 시프트에서 편향 감소를 평가한다.
• 모델이 성별 용어를 예측할 때 사람에 대한 증거에 집중하는지 보여준다.

제안 방법

• 기본 캡션 프레임워크는 InceptionV3의 이미지 특징을 사용하여 LSTM 설명 생성기를 초기화한다.
• 두 가지 새로운 손실: Appearance Confusion Loss (ACL)와 Confident Loss (Con f)로서, 증거가 있을 때 성별 증거에 편향된 캡션을 만들고 증거가 없을 때 비증거 큐에 의한 의존을 억제한다.
• Appearance Confusion Loss는 증거가 있는 경우에 성별 정보를 제거하고, 증거가 없을 때 남성/여성 단어에 동일한 확률을 유도한다.
• Confident Loss는 성별 증거가 있을 때 올바른 성별 예측에 대한 확신을 증가시키며, 성별 중립적 단어를 허용하기 위해 몫 기반 신뢰도 척도를 사용한다.
• 최종 목표 함수는 L = alpha L_CE + beta L_AC + mu L_Con (실험에서 alpha=1, beta=10, mu=1)이다.
• ACL에 대한 ground-truth 성별 이유(mask)가 있는 MSCOCO-Bias와 MSCOCO-Balanced 데이터셋을 사용하여 학습한다.

실험 결과

연구 질문

• RQ1 캡션 모델이 성별 단어를 예측할 때 성별 편향을 드러내고 증폭시킬 수 있는가?
• RQ2 제안된 ACL과 Confident Loss 항이 베이스라인에 비해 성별 단어의 오분류율을 감소시키는가?
• RQ3 Equalizer가 테스트 시점의 분포 시프트가 있어도 캡션의 성별 단어 분포를 ground-truth 분포와 맞추는가?
• RQ4 설명(Grad-CAM / 주목도)가 성별 단어를 예측할 때 맥락 cue보다 사람에게 주목하는지 보여 주는가?
• RQ5 모델이 사람 증거에 근거해 성별 예측을 내릴수록 ‘right for the right reasons’에 더 부합하는가?

주요 결과

• Equalizer가 Baselines와 비교해 MSCOCO-Bias 및 MSCOCO-Balanced 테스트 세트에서 가장 낮은 성별 단어 오류를 달성한다.
• MSCOCO-Bias에서 Equalizer의 오류는 7.02로 모든 제거 버전 및 베이스라인보다 낮고; MSCOCO-Balanced에서 Equalizer의 오류는 8.10으로 대다수 변형보다 낮다.
• Equalizer가 전체 모델에서ground truth에 가장 근접한 성별 비율을 산출한다( Ratio Δ 값: MSCOCO-Bias에서 −0.03, MSCOCO-Balanced에서 0.13).
• ABLATIONS은 ACL과 Confident Loss가 보완적임을 보이며, 둘 중 하나를 제거하면 성능이 저하된다(Equalizer w/o ACL 또는 w/o Conf의 오류 증가).
• Equalizer는 성별 간 결과 차이를 줄이며(Jensen-Shannon divergence 0.018, 비교 모델 중 최저),
• 시각적 설명은 Equalizer가 성별 단어를 예측할 때 사람에게 더 자주 주목함을 시사하여“right for the right reasons”를 지지한다.
• 주석가의 신뢰도 임계값 하에서 Equalizer는 성별이 불분명할 때는 성별 중립적 용어로 설명하는 경향이 있고, 명확하게 증거가 있을 때는 성별 용어를 사용하여 인간과 유사한 패턴을 보인다.