[논문 리뷰] Imbalanced Semi-supervised Learning with Bias Adaptive Classifier

Renzhen Wang, Xixi Jia외 3명|arXiv (Cornell University)|2022. 07. 28.

Imbalanced Data Classification Techniques인용 수 4

한 줄 요약

이 논문은 이중 최적화 프레임워크를 사용하여 편향 흡수와 편향 없는 레이블 예측을 분리함으로써 불균형한 반감독 학습을 위한 편향 적응형 분류기를 제안한다. 경량 잔차 기반의 편향 유인기와 선형 분류기를 통합함으로써 소수 클래스의 성능 저하를 완화하며, FixMatch 대비 가장 불균형한 클래스에서 최대 60% 높은 재현율을 달성한다.

ABSTRACT

Pseudo-labeling has proven to be a promising semi-supervised learning (SSL) paradigm. Existing pseudo-labeling methods commonly assume that the class distributions of training data are balanced. However, such an assumption is far from realistic scenarios and thus severely limits the performance of current pseudo-labeling methods under the context of class-imbalance. To alleviate this problem, we design a bias adaptive classifier that targets the imbalanced SSL setups. The core idea is to automatically assimilate the training bias caused by class imbalance via the bias adaptive classifier, which is composed of a novel bias attractor and the original linear classifier. The bias attractor is designed as a light-weight residual network and optimized through a bi-level learning framework. Such a learning strategy enables the bias adaptive classifier to fit imbalanced training data, while the linear classifier can provide unbiased label prediction for each class. We conduct extensive experiments under various imbalanced semi-supervised setups, and the results demonstrate that our method can be applied to different pseudo-labeling models and is superior to current state-of-the-art methods.

연구 동기 및 목표

• 클래스 분포가 불균형할 경우 기존의 가짜 레이블 방법의 성능 저하 문제를 해결한다.
• 학습 중에 클래스 불균형을 악화시키는 편향된 가짜 레이블 문제를 해결한다.
• 대표성 학습을 유지하면서 선형 분류기를 훈련 편향으로부터 보호하는 모델 독립 프레임워크를 개발한다.
• 새로운 이중 최적화 전략을 통해 비편향 분류기를 학습함으로써 불균형 설정에서 비정상 데이터를 효과적으로 활용할 수 있도록 한다.

제안 방법

• 편향 없는 예측을 위한 선형 분류기와 훈련 편향을 흡수하는 데 사용되는 편향 유인기를 조합한 편향 적응형 분류기를 도입한다.
• 과적합을 방지하면서도 복잡한 데이터 편향을 모델링할 수 있도록 경량 잔차 신경망을 편향 유인기로 설계한다.
• 이중 학습 프레임워크를 활용: 하위 수준은 라벨된 데이터와 비라벨된 데이터로 전체 네트워크를 최적화하며, 상위 수준은 라벨된 데이터의 재표본화된 균형 잔여 집합을 사용해 편향 유인기를 조정한다.
• 선형 분류기의 최적화를 편향된 데이터 분포에서 분리함으로써 모든 클래스에 대해 동등하게 일반화될 수 있도록 한다.
• 선형 분류기가 훈련 내내 편향되지 않도록 상위 수준 목표에서 온라인 클래스 균형 샘플링을 사용한다.
• 아키텍처 변경 없이 기존의 가짜 레이블 프레임워크(예: FixMatch)에 제안된 분류기를 통합함으로써 모델 독립적 적용성을 확보한다.

실험 결과

연구 질문

• RQ1 라벨된 데이터의 클래스 불균형이 반감독 학습에서 기존의 가짜 레이블 방법의 성능에 어떤 영향을 미치는가?
• RQ2 노이즈가 많은 가짜 레이블을 포함한 불균형 데이터로부터 학습함에도 불구하고 분류기가 편향 없이 유지될 수 있는가?
• RQ3 이중 최적화 프레임워크가 불균형한 반감독 학습에서 편향 흡수와 편향 없는 예측을 효과적으로 분리하는가?
• RQ4 경량 편향 유인기가 반감독 학습에서 소수 클래스의 일반화 성능을 어느 정도 향상시킬 수 있는가?
• RQ5 라벨된 데이터와 비라벨된 데이터 양쪽에서 다양한 수준의 클래스 불균형을 고려할 때, 제안된 방법은 최첨단 기법들과 어떻게 비교되는가?

주요 결과

• CIFAR-10에서 불균형 비율이 100인 경우, 제안된 L2AC 프레임워크는 FixMatch 대비 소수 클래스 재현율을 약 60% 향상시킨다.
• L2AC로 훈련된 선형 분류기는 전체 라벨된 데이터로 훈련된 상한 모델의 예측 클래스 분포를 밀도적으로 근사함으로써 강력한 편향 없는 일반화 능력을 보여준다.
• t-SNE 시각화 결과 L2AC는 특히 꼬리 클래스에 대해 더 분류 가능한 표현을 생성함을 확인했으며, 이는 기존 기준 모델이 자주 잘못 분류하는 경향이 있음을 시사한다.
• 절단 실험 결과 이중 학습 전략이 핵심적임을 입증함—편향 유인기를 유지하더라도 이중 최적화 전략을 제거하면 성능이 심각하게 저하된다.
• 여러 데이터셋과 불균형 비율에 걸쳐 일관된 성능 향상이 이루어지며, 라벨된 데이터가 희귀하고 비라벨된 데이터가 균형을 이루는 반전 불균형 설정에서도 효과적이다.
• 편향 유인기 자체는 미미한 성능 향상을 보이지만, 이중 최적화와 조합될 경우 상당한 성능 향상이 이루어지며, 이는 계층적 훈련 전략의 중요성을 입증한다.