[논문 리뷰] An Embarrassingly Simple Baseline for Imbalanced Semi-Supervised Learning

Hao Chen, Yue Fan외 6명|arXiv (Cornell University)|2022. 11. 20.

Advanced Neural Network Applications인용 수 4

한 줄 요약

이 논문은 클래스 불균형 문제를 완화하기 위해 가장 빈도가 높은 클래스로부터의 빈도 차이를 기반으로 한 가짜 레이블을 이용해 라벨된 데이터를 증강하는 방식으로, 불균형한 반감독 학습을 위한 단순하지만 매우 효과적인 베이스라인인 SimiS를 제안한다. 이는 CIFAR100-LT, FOOD101-LT, ImageNet127에서 각각 12.8%, 13.6%, 16.7% 향상된 최신 기준 성능을 달성하며, 수렴 속도가 빠르고 가짜 레이블 정확도가 향상된다.

ABSTRACT

Semi-supervised learning (SSL) has shown great promise in leveraging unlabeled data to improve model performance. While standard SSL assumes uniform data distribution, we consider a more realistic and challenging setting called imbalanced SSL, where imbalanced class distributions occur in both labeled and unlabeled data. Although there are existing endeavors to tackle this challenge, their performance degenerates when facing severe imbalance since they can not reduce the class imbalance sufficiently and effectively. In this paper, we study a simple yet overlooked baseline -- SimiS -- which tackles data imbalance by simply supplementing labeled data with pseudo-labels, according to the difference in class distribution from the most frequent class. Such a simple baseline turns out to be highly effective in reducing class imbalance. It outperforms existing methods by a significant margin, e.g., 12.8%, 13.6%, and 16.7% over previous SOTA on CIFAR100-LT, FOOD101-LT, and ImageNet127 respectively. The reduced imbalance results in faster convergence and better pseudo-label accuracy of SimiS. The simplicity of our method also makes it possible to be combined with other re-balancing techniques to improve the performance further. Moreover, our method shows great robustness to a wide range of data distributions, which holds enormous potential in practice. Code will be publicly available.

연구 동기 및 목표

• 라벨된 데이터와 언라벨된 데이터 모두가 편향된 클래스 분포를 보이는 반감독 학습에서 심각한 클래스 불균형 문제를 해결하기 위해.
• 복잡한 재가중 또는 아키텍처 변경 없이도 불균형을 완화할 수 있는 단순하지만 매우 효과적인 베이스라인 방법을 제안하기 위해.
• 클래스 빈도 차이를 기반으로 한 가짜 레이블을 라벨된 데이터에 보완하는 간단한 접근 방식이 기존 최신 기준 방법들을 크게 능가할 수 있음을 보여주기 위해.
• 이 방법이 다양한 데이터 분포에 대해 강건하며, 다른 재균형 기법과의 호환성도 보장함을 보여주기 위해.

제안 방법

• SimiS는 가장 빈도가 높은 클래스로부터의 상대적 빈도 차이를 기반으로 가짜 레이블을 생성하고, 이를 라벨된 데이터 세트에 통합함으로써 클래스 불균형을 감소시킨다.
• 이 방법은 단순한 히ュ리스틱을 사용한다: 각 클래스에 대해 추가되는 가짜 레이블의 수는 가장 빈도가 높은 클래스 대비 그 클래스의 빈도의 역수 비례한다.
• 증강된 라벨된 데이터 세트를 사용하여 표준 SSL 학습을 수행하며, 기존 베이스라인 SSL 방법과 동일한 학습 파이프라인을 유지한다.
• 추가 하이퍼파라미터나 복잡한 손실 재가중이 필요 없으며, 오직 클래스 빈도 통계 자료에 의존한다.
• SSL에서 가짜 레이블링의 본질적 일관성을 활용하여 레이블 품질과 모델 일반화 능력을 향상시킨다.
• 이 방법은 기존 SSL 프레임워크와 호환되며, 추가 성능 향상을 위해 다른 재균형 기법과 조합할 수 있다.

실험 결과

연구 질문

• RQ1 가짜 레이블링을 위한 단순한 학습되지 않은 히ュ리스틱이 반감독 학습에서 클래스 불균형을 크게 줄일 수 있는가?
• RQ2 심각한 클래스 불균형 조건 하에서 SimiS는 성능과 수렴 속도 측면에서 최신 기준 방법들과 비교해 어떻게 성과를 내는가?
• RQ3 SimiS는 다양한 데이터 분포와 불균형 수준에 대해 얼마나 강건한가?
• RQ4 SimiS는 다른 재균형 기법과 효과적으로 조합되어 성능 향상을 더욱 높일 수 있는가?

주요 결과

• SimiS는 장타일 분포 하에서 CIFAR100-LT에서 기존 최신 기준 방법보다 12.8% 향상되었고, FOOD101-LT에서는 13.6%, ImageNet127에서는 16.7% 향상되었다.
• 훈련 데이터의 클래스 불균형이 감소함에 따라 더 빠른 수렴을 달성했다.
• 균형 잡힌 데이터 분포로 인해 훈련 중 더 신뢰할 수 있는 예측이 가능해져 가짜 레이블 정확도가 크게 향상되었다.
• SimiS는 다양한 수준의 데이터 불균형과 분포에 걸쳐 강건함을 보였다.
• 이 방법의 단순성 덕분에 다른 재균형 기법과의 통합이 원활하게 가능하여 추가 성능 향상을 이룰 수 있었다.
• 복잡한 손실 함수, 재가중, 아키텍처 수정 없이도 뛰어난 성능을 달성했다.