[논문 리뷰] ACPL: Anti-curriculum Pseudo-labelling for Semi-supervised Medical Image Classification

Fengbei Liu, Yu Tian외 4명|arXiv (Cornell University)|2021. 11. 25.

Infrastructure Maintenance and Monitoring인용 수 4

한 줄 요약

ACPL은 클래스 불균형 문제를 완화하기 위해 교차 분포 정보성 기반으로 유의미한 미라벨링 샘플을 선택하고, 모델 및 KNN 예측을 정보성 믹스업을 통해 앙상블하여 가짜 레이블 정확도를 향상시키는 새로운 준지도 학습 방법을 제안한다. 이는 고정된 신뢰도 임계값에 의존하지 않고 확증 편향을 해결함으로써 다중 레이블(Chest X-ray14) 및 다중 클래스(ISIC2018) 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Effective semi-supervised learning (SSL) in medical image analysis (MIA) must address two challenges: 1) work effectively on both multi-class (e.g., lesion classification) and multi-label (e.g., multiple-disease diagnosis) problems, and 2) handle imbalanced learning (because of the high variance in disease prevalence). One strategy to explore in SSL MIA is based on the pseudo labelling strategy, but it has a few shortcomings. Pseudo-labelling has in general lower accuracy than consistency learning, it is not specifically designed for both multi-class and multi-label problems, and it can be challenged by imbalanced learning. In this paper, unlike traditional methods that select confident pseudo label by threshold, we propose a new SSL algorithm, called anti-curriculum pseudo-labelling (ACPL), which introduces novel techniques to select informative unlabelled samples, improving training balance and allowing the model to work for both multi-label and multi-class problems, and to estimate pseudo labels by an accurate ensemble of classifiers (improving pseudo label accuracy). We run extensive experiments to evaluate ACPL on two public medical image classification benchmarks: Chest X-Ray14 for thorax disease multi-label classification and ISIC2018 for skin lesion multi-class classification. Our method outperforms previous SOTA SSL methods on both datasets

연구 동기 및 목표

• 준지도 학습 의료 영상 분류에서 희귀 질환 클래스에 특히 영향을 미치는 클래스 불균형 문제를 해결한다.
• 고정된 신뢰도 임계값에 의존하는 전통적 가짜 레이블링의 한계, 즉 확증 편향을 극복한다.
• 다중 클래스 및 다중 레이블 의료 영상 문제에 모두 효과적인 준지도 학습을 가능하게 한다.
• 샘플 정보성 기반 가중치 기준으로 딥 모델 예측과 KNN 분류를 조합하여 가짜 레이블 정확도를 향상시킨다.
• 라벨이 부여된 데이터 분포에서 멀리 떨어진 샘플을 선택하여 안정적이고 균형 잡힌 학습 과정을 구현함으로써 소수의 클래스 학습을 촉진한다.

제안 방법

• 라벨이 부여된 앵커 세트에서 멀리 떨어져 있는, 즉 소수 클래스에 속할 가능성이 높은 유의미한 샘플을 식별하기 위해 교차 분포 정보성 측정법을 도입한다.
• 모델 및 KNN 예측을 밀도 기반 가중치(앵커 세트에서 유도)를 사용하여 조합하는 정보성 믹스업 기반의 가짜 레이블링 메커니즘을 제안하여 레이블 정확도를 향상시키고 확증 편향을 줄인다.
• 가장 유의미한 가짜 레이블링 샘플만 선택하여 앵커 세트를 정제하는 전략을 설계함으로써 학습 에포크 동안 KNN 분류기의 신뢰성을 향상시킨다.
• 고정보성 가짜 레이블링을 포함하여 진화하는 동적 앵커 세트를 사용함으로써 후속 KNN 예측의 안정성과 정확도를 향상시킨다.
• 간단한 다수 클래스 샘플을 선택하지 않기 위해 정보성과 분포 거리가 높은 미라벨링 샘플에 초점을 맞춘 커리큘럼 유사 학습 전략을 적용한다.
• 샘플 정보성을 기반으로 가이드된 KNN 분류기를 도입하여, 특히 복잡한 클래스 상관관계를 가진 다중 레이블 설정에서 견고한 가짜 레이블을 제공한다.

(a) Diagram of our ACPL (top) and traditional pseudo-label SSL (bottom)

실험 결과

연구 질문

• RQ1 라벨이 부여된 데이터로부터의 분포 거리 기반으로 미라벨링 샘플을 선택하면, 불균형한 의료 영상 분류에서 모델 일반화 성능 향상에 기여하는가?
• RQ2 정보성 가중 믹스업을 통해 모델 예측과 KNN 분류를 조합하면 가짜 레이블 정확도와 모델 내성에 어떤 영향을 미치는가?
• RQ3 제안된 방법이 준지도 학습 의료 영상 학습에서 확증 편향을 어느 정도 완화하는가?
• RQ4 문제 유형에 맞는 임계값 조정 없이도 이 방법이 다중 클래스 및 다중 레이블 의료 영상 벤치마크 전반에 걸쳐 일반화 가능한가?
• RQ5 앵커 세트 정제 메커니즘이 KNN 기반 가짜 레이블링 구성 요소의 안정성과 성능을 향상시키는가?

주요 결과

• ACPL은 라벨이 2%에 불과한 다중 레이블 Chest X-ray14 데이터셋에서 테스트 AUC 74.44를 달성하여 이전 최신 기술 수준의 방법들을 능가한다.
• 다중 클래스 ISIC2018 벤치마크에서 ACPL은 최신 기술 수준의 성능을 달성하여 다양한 문제 유형에서의 효과성을 입증한다.
• 정보성 믹스업 전략은 기준 방법(모델 전용, KNN 전용, 무작위 알파 믹스업 포함) 대비 최소 1.5% 이상의 가짜 레이블 정확도 향상을 이룬다.
• 정보성 기반 샘플 선택은 소수 클래스와 다수 클래스 간의 표현 불균형을 감소시켜 소수 클래스 샘플 비율을 5–10%에서 거의 30%로 증가시킨다.
• 앵커 세트 정제 메커니즘은 다양한 KNN 이웃 수에 걸쳐 성능을 안정화시키며, AUC 변동 범위를 2%에서 1%로 감소시킨다.
• 제거 실험 결과는 정보성 기반 샘플 선택 및 정보성 믹스업 메커니즘이 성능 향상에 필수적임을 확인하며, 각 구성 요소가 최종 정확도 향상에 크게 기여하고 있음을 입증한다.

(b) Imbalanced distribution on multi-label Chest X-ray14 [ 39 ] (left) and multi-class ISIC2018 [ 36 ] (right)