[논문 리뷰] Contrastive Learning for Fair Representations

Aili Shen, Xudong Han외 3명|arXiv (Cornell University)|2021. 09. 22.

Adversarial Robustness in Machine Learning참고 문헌 36인용 수 19

한 줄 요약

이 논문은 작업 정확도와 공정성에 동시에 최적화하여 신경 분류기 표현의 편향을 줄이기 위한 대비 학습 기반 방법을 제안한다: 동일한 주 작업 레이블을 가진 인스턴스는 가까이 모으고, 보호되는 특성(예: 성별, 인종)을 공유하는 인스턴스는 서로 멀리 떼어낸다. 이 방법은 네 가지 NLP 및 비전 벤치마크에서 최소한의 계산 비용으로 최신 기술 수준의 공정성을 달성하며 주 작업 성능 저하 없이도 성능을 유지한다.

ABSTRACT

Trained classification models can unintentionally lead to biased representations and predictions, which can reinforce societal preconceptions and stereotypes. Existing debiasing methods for classification models, such as adversarial training, are often expensive to train and difficult to optimise. In this paper, we propose a method for mitigating bias in classifier training by incorporating contrastive learning, in which instances sharing the same class label are encouraged to have similar representations, while instances sharing a protected attribute are forced further apart. In such a way our method learns representations which capture the task label in focused regions, while ensuring the protected attribute has diverse spread, and thus has limited impact on prediction and thereby results in fairer models. Extensive experimental results across four tasks in NLP and computer vision show (a) that our proposed method can achieve fairer representations and realises bias reductions compared with competitive baselines; and (b) that it can do so without sacrificing main task performance; (c) that it sets a new state-of-the-art performance in one task despite reducing the bias. Finally, our method is conceptually simple and agnostic to network architectures, and incurs minimal additional compute cost.

연구 동기 및 목표

• 보호되는 특성(예: 성별, 인종)과 작업 레이블 간의 비의도적인 상관관계로 인해 발생하는 신경 분류기의 편향을 해결하기 위해.
• 적응형 훈련과 같은 기존의 편향 제거 방법의 한계를 극복하기 위해, 계산 비용이 높고 최적화가 어려운 점을 해결하기 위해.
• 편향을 줄이면서도 주 작업 성능을 유지하는 단순하고 아키텍처에 종속되지 않는 방법을 개발하기 위해.
• 대비 학습이 작업 클래스 내 유사성과 보호되는 특성 그룹 내 이질성에 대해 효과적으로 활용되어 공정한 표현을 학습시킬 수 있는지 탐색하기 위해.

제안 방법

• 표준 크로스 엔트로피 손실에 더하여, 작업 레이블 유사성과 보호되는 특성 이질성에 대한 두 가지 대비 손실 성분을 결합한다.
• 같은 주 작업 레이블을 공유하는 인스턴스의 표현 간 유사성을 극대화하기 위해 대비 목적 함수를 사용한다. 이때 보호되는 특성은 고려하지 않는다.
• 동일한 보호되는 특성(예: 성별, 인종)을 공유하지만 작업 레이블이 다른 인스턴스의 표현 간 유사성을 최소화한다.
• 공통 인코더를 사용하여 엔드 투 엔드로 훈련되며, 보호되는 특성은 표현 함수를 미세조정하는 데는 사용되지 않고 대비 손실을 안내하는 데만 사용된다.
• 이 방법은 아키텍처에 종속되지 않으며 추가 파라미터를 추가하지 않아 경량이며 쉽게 통합할 수 있다.
• 대비 손실은 자기지도 학습 방식으로 적용되며, 데이터 증강을 통해 작업 뷰와 보호되는 특성 뷰 모두에 대해 양성 및 음성 쌍을 생성한다.

실험 결과

연구 질문

• RQ1 대비 학습이 신경 분류기의 편향을 줄이는 공정한 표현을 효과적으로 학습시키는 데 활용될 수 있는가?
• RQ2 작업 레이블과 보호되는 특성에 대한 대비 손실을 결합함으로써 주 작업 정확도를 저하시키지 않고도 공정성을 향상시킬 수 있는가?
• RQ3 적응형 훈련 및 후처리 기반의 편향 제거 기준과 비교했을 때, 제안된 방법은 공정성과 성능 측면에서 어떤가?
• RQ4 다양한 데이터 분포와 클래스 구조를 가진 다양한 NLP 및 컴퓨터 비전 작업에서 이 방법은 효과적인가?
• RQ5 이진 분류 설정과 다중 클래스 분류 설정을 사용했을 때 대비 편향 제거 방법의 효과성에 어떤 영향을 미치는가?

주요 결과

• 제안된 방법인 Con*는 Moji, Hate Speech, Bios, imSitu의 네 가지 평가 작업 전반에서 최신 기술 수준의 공정성을 달성하였으며, 주 작업 정확도를 손상시키지 않았다.
• Bios 데이터셋에서 이진 분류 설정(간호사 대 수술사)에서 Con*는 GAP를 21.60(CE m)에서 4.88로 감소시키고, leakage@h를 98.98에서 85.61로, leakage@ŷ를 93.67에서 85.61로 감소시켰으며, 높은 정확도를 유지했다.
• 이진 설정에서 Con*는 INLP 및 적응형 기준 모두보다 성별 편향을 더 효과적으로 줄였으며, CE m 대비 GAP가 53% 감소했다.
• 모든 네 개의 데이터셋에서 최고의 정확도-공정성 트레이드오프를 달성하여 경쟁 기준 대비 일관된 향상을 보였다.
• 제거 실험 결과, 두 대비 손실 성분 모두 필수적임을 확인했다: 어느 한 성분이라도 제거하면 공정성 성능이 크게 떨어졌다.
• t-SNE 시각화 결과, Con*의 표현은 감정(주 작업) 기반으로 군집되며 동시에 인종(보호되는 특성) 기반으로 혼합되어 있어, 방법의 설계 목표를 확인할 수 있었다.