[논문 리뷰] Distribution Aligning Refinery of Pseudo-label for Imbalanced Semi-supervised Learning

Jaehyung Kim, Youngbum Hur외 4명|arXiv (Cornell University)|2020. 07. 17.

Imbalanced Data Classification Techniques참고 문헌 47인용 수 84

한 줄 요약

본 논문은 DARP를 제시한다. 불균형 클래스 하에서 SSL의 편향된 의사레이블을 실제 미표지 클래스 분포에 맞춰 정렬하는 볼록 최적화 기반 방법으로, 최첨단 SSL 방식들의 성능을 향상시킨다.

ABSTRACT

While semi-supervised learning (SSL) has proven to be a promising way for leveraging unlabeled data when labeled data is scarce, the existing SSL algorithms typically assume that training class distributions are balanced. However, these SSL algorithms trained under imbalanced class distributions can severely suffer when generalizing to a balanced testing criterion, since they utilize biased pseudo-labels of unlabeled data toward majority classes. To alleviate this issue, we formulate a convex optimization problem to softly refine the pseudo-labels generated from the biased model, and develop a simple algorithm, named Distribution Aligning Refinery of Pseudo-label (DARP) that solves it provably and efficiently. Under various class-imbalanced semi-supervised scenarios, we demonstrate the effectiveness of DARP and its compatibility with state-of-the-art SSL schemes.

연구 동기 및 목표

• 의사레이블이 다수 클래스 쪽으로 치우치는 불균형한 클래스 분포에서 SSL의 성능 저하를 동기부여하고 해결한다.
• 원래 예측의 정보를 보존하면서 의사레이블을 부드럽게 다듬기 위한 볼록 최적화 형식을 제안한다.
• 분포 정렬된 의사레이블을 생성하기 위한 수렴 보장을 갖춘 효율적인 반복 해법(DARP)을 개발한다.
• 합의된 주요 SSL 체계 전반에 걸쳐 합성 롱테일 데이터 세트와 실제 데이터에서 DARP의 호환성 및 향상을 입증한다.

제안 방법

• 참고: 볼록 최적화 문제를 구성하여 정제된 의사레이블과 원래 의사레이블 간의 가중된 KL 발산을 최소화하되 진짜 미표지 클래스 분포를 충족하도록 한다.
• 엔트로피를 기반으로 가중치 w_m 를 도입하여 높은 신뢰도의 의사레이블을 강조한다.
• 고유 해에 수렴을 증명할 수 있는 효율적인 이중 좌표 상승 알고리즘(Algorithm 1)을 제공한다.
• 작은 값을 제거하는 데이터 필터링 단계(Algorithm 2)를 포함하여 확신 신호에 초점을 맞추어 다듬기를 향상시킨다.
• 레이블링된 분포와 미레이블 분포가 다를 때 혼동 행렬 기반 추정을 통해 실제 미표지 클래스 분포 {M_k}를 추정한다(섹션 3.3).

실험 결과

연구 질문

• RQ1 레이블링된/미레이블 데이터의 클래스 불균형이 SSL 의사레이블에 어떤 편향을 유발하고 소수 클래스를 어떻게 악영향을 주는가?
• RQ2 의사레이블 분포를 실제 미표지 분포와 일치시키는 다듬기가 최첨단 방법들 전반의 SSL 성능을 향상시킬 수 있는가?
• RQ3 원래 의사레이블 정보를 보존하면서 수렴 보장을 갖춘 다듬기 문제를 효율적으로 해결하는 것이 가능한가?
• RQ4 다듬기 전에 작고 노이즈가 있는 항목을 제거하는 것이 정제된 의사레이블의 품질을 더 향상시키는가?
• RQ5 직접 관찰되지 않을 때 실제 미표지 분포를 얼마나 잘 추정할 수 있는가?

주요 결과

• DARP는 불균형 상황에서 기본 SSL 방법들(MixMatch, ReMixMatch, FixMatch)을 일관되게 개선한다.
• 의사레이블을 실제 미표지 분포와 일치시키면 여러 gamma 설정에서 균형 정확도와 GM의 상대적 감소를 크게 나타낸다.
• 제안된 반복 이중 좌표 상승 해 solution 은 실제로( T=10으로 충분) 고유 해로 수렴한다.
• 정제 전에 작고 노이즈가 있는 의사레이블 항목을 제거하는 것이 고신뢰 신호에 다듬기를 편향시켜 성능을 더 높인다.
• DARP는 미표지와 표지 분포가 다를 때(gamma_l ≠ gamma_u)에서도 효과가 유지되며, 미표지 데이터가 균등 분포에 더 가까울 때도 효과적이다(예: STL-10).
• DARP는 계산 오버헤드가 보통의 SSL 실행에 비해 최대 약 20% 정도로 늘어나며 다양한 SSL 프레임워크와 호환된다.