[논문 리뷰] FairFil: Contrastive Neural Debiasing Method for Pretrained Text Encoders

Pengyu Cheng, Weituo Hao외 3명|arXiv (Cornell University)|2021. 03. 11.

Adversarial Robustness in Machine Learning참고 문헌 49인용 수 50

한 줄 요약

FairFil은 사후적 편향 제거를 통해 사전 학습된 문장 인코더의 편향을 줄이고 의미 콘텐츠를 보존하는 대조 학습 기반의 공정 필터를 사용하는 방법으로, 인코더 재학습 없이 작동한다.

ABSTRACT

Pretrained text encoders, such as BERT, have been applied increasingly in various natural language processing (NLP) tasks, and have recently demonstrated significant performance gains. However, recent studies have demonstrated the existence of social bias in these pretrained NLP models. Although prior works have made progress on word-level debiasing, improved sentence-level fairness of pretrained encoders still lacks exploration. In this paper, we proposed the first neural debiasing method for a pretrained sentence encoder, which transforms the pretrained encoder outputs into debiased representations via a fair filter (FairFil) network. To learn the FairFil, we introduce a contrastive learning framework that not only minimizes the correlation between filtered embeddings and bias words but also preserves rich semantic information of the original sentences. On real-world datasets, our FairFil effectively reduces the bias degree of pretrained text encoders, while continuously showing desirable performance on downstream tasks. Moreover, our post-hoc method does not require any retraining of the text encoders, further enlarging FairFil's application space.

연구 동기 및 목표

• 단어 수준의 편향 제거를 넘어 사전 학습된 텍스트 인코더의 문장 수준 사회적 편향을 줄일 필요성을 제시한다.
• 고정된 인코더에서 편향 제거된 임베딩을 출력하는 신경망 편향 제거 프레임워크(FairFil)를 제안한다.
• 편향 제거와 함께 의미 정보를 보존하기 위한 대조 학습 목표를 개발한다.
• 편향 제거 임베딩에서 민감한 단어에 대한 정보를 추가로 최소화하기 위한 편향 제거 정규화를 도입한다.

제안 방법

• 사전 학습된 인코더 E 위에 공정 필터 네트워크 f를 학습시켜 z = E(x)에서 편향 제거된 d = f(z)로 매핑한다.
• 다른 편향 방향에서 의미적으로 대체 가능한 단어로 민감한 단어를 대체하여 x'라는 증강 문장을 생성한다.
• (x, x')에 대해 d와 d' 사이의 상호 정보를 최대화하기 위해 InfoNCE 대조 손실로 학습한다.
• d와 민감한 단어 w^p의 임베딩 간의 상호 정보를 CLUB 경계를 통해 최소화하는 편향 제거 정규화를 추가하여 d에서 편향 정보 제거를 촉진한다.
• f를 한 계층 신경망으로 매개화한다; InfoNCE 점수화를 위한 g는 두 계층 네트워크이며; CLUB 추정용으로 q_theta(w|d)를 가우시안 변분 모델로 매개화한다.
• 고정된 학습 말뭉치에서 최대 10에폭 동안 배치 기반 학습 설정으로 128 샘플과 학습률 1e-5를 사용한다.

실험 결과

연구 질문

• RQ1 인코더를 재학습시키지 않고도 신경망 사후 공정 필터가 사전 학습된 텍스트 인코더의 문장 수준 편향을 감소시킬 수 있는가?
• RQ2 의미적으로 증강된 문장을 이용한 대조 학습이 편향을 제거하면서 의미 구성 정보를 보존하는가?
• RQ3 민감한 단어 정보에 초점을 맞춘 편향 제거 정규화가 다운스트림 성능을 해치지 않으면서 편향 제거 성능을 향상시키는가?

주요 결과

• FairFil은 사전 학습된 BERT에서 SEAT 바이어스 지표를 낮추고 Sent-Debias와 비교하여 다운스트림 태스크 정확도를 개선하거나 보존한다.
• FairFil은 Sent-Debias보다 평균 SEAT 효과 크기가 더 작다.
• 편향 제거 정규화는 추가로 편향을 줄이지만 다운스트림 성능과 약간의 균형을 이뤄 무언가 손해가 발생할 수 있어 공정성과 대표성 간의 트레이드오프를 시사한다.
• FairFil은 데이터 효율성을 보여주며 더 작은 학습 데이터 부분에서도 효과적인 편향 감소를 나타낸다(최소 20% 수준).
• 단어 수준의 편향 제거 기준선과 비교할 때 FairFil은 편향이 훨씬 낮아 문장 수준의 편향 제거 이점을 시사한다.