[논문 리뷰] Debiased Contrastive Learning

Ching-Yao Chuang, Joshua Robinson외 3명|arXiv (Cornell University)|2020. 07. 01.

Domain Adaptation and Few-Shot Learning참고 문헌 44인용 수 19

한 줄 요약

이 논문은 임의의 전체 데이터 분포에서 추출된 음성 예제(일반적으로 같은 레이블을 가진 예제를 포함할 수 있음)에서 발생하는 샘플링 편향을 보정하기 위해 진정으로 이질적인 음성 예제의 진정한 분포를 암묵적으로 근사하는 비편향 대비 학습 목표를 제안한다. 이 방법은 레이블이 필요 없이도 비전, 언어, 강화학습 벤치마크 전반에서 성능을 향상시키며, 최종 분류 작업에 대한 일반화 경계와 이론적으로 연결된다.

ABSTRACT

A prominent technique for self-supervised representation learning has been to contrast semantically similar and dissimilar pairs of samples. Without access to labels, dissimilar (negative) points are typically taken to be randomly sampled datapoints, implicitly accepting that these points may, in reality, actually have the same label. Perhaps unsurprisingly, we observe that sampling negative examples from truly different labels improves performance, in a synthetic setting where labels are available. Motivated by this observation, we develop a debiased contrastive objective that corrects for the sampling of same-label datapoints, even without knowledge of the true labels. Empirically, the proposed objective consistently outperforms the state-of-the-art for representation learning in vision, language, and reinforcement learning benchmarks. Theoretically, we establish generalization bounds for the downstream classification task.

연구 동기 및 목표

• 전체 데이터 분포에서 음성 예제를 샘플링할 경우 발생하는 성능 저하 문제를 해결하기 위해.
• 진정한 레이블에 접근할 필요 없이 이 편향을 줄이는 대비 학습 목표를 개발하기 위해.
• 기존의 대비 학습 프레임워크와의 호환성을 유지하면서 표현 품질을 향상시키기 위해.
• 최종 분류 작업을 위한 일반화 경계를 통해 이론적 근거를 제공하기 위해.
• 컴퓨터 비전, 자연어 처리, 강화학습 등 다양한 도메인에서 방법의 실증적 검증을 위해.

제안 방법

• 이 방법은 앵커와 같은 클래스에 속할 가능성이 있는 샘플링된 음성 예제의 확률을 보정하는 비편향 대비 손실을 도입한다.
• 포지티브 및 네거티브 분포 간의 오버랩을 고려하기 위해 포함-배제 원리를 사용하여 음성 예제에 대한 기대값을 분해한다.
• 표준 대비 목표를 포지티브 및 네거티브 분포 간의 오버랩 추정에 기반한 보정 항을 사용해 조정함으로써 손실를 유도한다.
• 보정 요소는 포지티브 분포에서 음성 예제를 샘플링할 확률과 전체 음성 분포에서의 비율의 비율로 계산되며, 경험적 추정치를 통해 근사된다.
• 모든 대비 학습 프레임워크와 호환되며, 손실 함수만 수정하면 구현 가능하다.
• 수치적 안정성을 확보하기 위해 추정치가 임계값 이하로 떨어지면 표준 편향 손실로 전환하여 학습 안정성을 유지한다.

실험 결과

연구 질문

• RQ1 전체 데이터 분포에서 음성 예제를 샘플링할 때 발생하는 편향을 보정함으로써 비지도 표현 학습을 향상시킬 수 있는가?
• RQ2 같은 레이블의 음성 예제가 존재할 가능성을 고려한 비편향 대비 목표가 더 나은 최종 성능을 낼 수 있는가?
• RQ3 비편향 대비 목표에 대해 감독 학습과 관련된 일반화 경계를 이론적으로 유도할 수 있는가?
• RQ4 비전, 언어, 강화학습 등 다양한 도메인에서 최신 대비 학습 방법과 비교해 본 결과, 제안된 방법은 어떻게 성능을 내는가?
• RQ5 특히 보정 항이 수치적으로 불안정해질 경우에도 비편향 목표는 실질적으로 안정적이고 강건한가?

주요 결과

• 비편향 대비 손실은 표준 대비 학습보다 비전, 언어, 강화학습 벤치마크 전반에서 일관되게 뛰어난 성능을 보이며, 레이블이 없이도 동일한 성능 향상을 달성한다.
• CIFAR-10에서 진정으로 다른 레이블을 가진 음성 예제를 사용할 경우 표준 샘플링 방식보다 정확도가 유의미하게 향상되며, 샘플링 편향의 존재를 검증한다.
• ImageNet-100, STL-10, BookCorpus에서 최고 성능을 기록하며 선형 프로브 정확도 향상이 확인된다.
• 이론적 분석 결과, 비편향 대비 손실을 최적화하면 감독 분류 손실의 상한선을 최소화함을 보여주며 일반화 보장을 제공한다.
• 실증적 아블레이션 결과, 보정 항이 레이블이 알려지지 않은 상황에서도 같은 레이블 음성 예제의 영향을 효과적으로 줄임을 확인한다.
• 추정치가 너무 작아지면 표준 손실로 전환하여 학습 안정성을 유지함으로써 수렴을 보장한다.