[논문 리뷰] Simple and Robust Loss Design for Multi-Label Learning with Missing Labels

Youcai Zhang, Yuhao Cheng외 5명|arXiv (Cornell University)|2021. 12. 13.

Text and Document Classification Technologies인용 수 15

한 줄 요약

이 논문은 복잡한 아키텍처나 학습 절차 없이도 부족한 레이블이 있는 다중 레이블 학습을 향상시키기 위해 두 가지 단순하면서도 효과적인 손실 함수인 힐 손실(Hill loss)과 자기스케일링 손실 보정(SPLC)을 제안한다. 모델 예측 확률을 활용해 조기에 잘못된 음성(false negatives)을 식별함으로써, 힐 손실은 문제 있는 음성을 가중치를 낮추고, SPLC는 반복적으로 누락된 레이블을 보정함으로써 다양한 벤치마크에서 새로운 최고 성능(SOTA)을 달성한다.

ABSTRACT

Multi-label learning in the presence of missing labels (MLML) is a challenging problem. Existing methods mainly focus on the design of network structures or training schemes, which increase the complexity of implementation. This work seeks to fulfill the potential of loss function in MLML without increasing the procedure and complexity. Toward this end, we propose two simple yet effective methods via robust loss design based on an observation that a model can identify missing labels during training with a high precision. The first is a novel robust loss for negatives, namely the Hill loss, which re-weights negatives in the shape of a hill to alleviate the effect of false negatives. The second is a self-paced loss correction (SPLC) method, which uses a loss derived from the maximum likelihood criterion under an approximate distribution of missing labels. Comprehensive experiments on a vast range of multi-label image classification datasets demonstrate that our methods can remarkably boost the performance of MLML and achieve new state-of-the-art loss functions in MLML.

연구 동기 및 목표

• 부족한 레이블이 있는 다중 레이블 학습(MLML) 문제를 다루며, 완전하지 않은 레이블링으로 인한 잘못된 음성으로 인해 모델 성능이 저하되는 문제를 해결하기 위해.
• 복잡한 네트워크 아키텍처나 학습 절차에 의존하는 기존의 MLML 파이프라인을 단순화하기 위해.
• 특정 아키텍처나 학습 절차의 수정 없이도 강건한 손실 설계만으로도 MLML에서 성능을 크게 향상시킬 수 있는지 조사하기 위해.
• 조기 학습 단계에서 모델 예측을 활용해 누락된 레이블을 높은 정밀도로 조기에 식별할 수 있는지 탐색하기 위해.
• 이 상황에서 양성에 대한 반경화된 하드 마이닝이 하드 마이닝보다 더 효과적인지 입증하기 위해.

제안 방법

• 모델 예측 확률을 기반으로 쉽게 처리되는 음성과 잘못된 음성을 낮은 가중치로, 반경화된 음성은 높은 가중치로 부여하는 재가중된 MSE 기반의 손실인 힐 손실을 도입하여 잘못된 음성에 대해 강건한 학습을 가능하게 한다.
• 누락된 레이블의 근사 분포 하에 최대우도 기반 손실을 사용하여 모델 예측에 기반해 잘못된 음성을 점진적으로 보정하는 자기스케일링 손실 보정(SPLC)을 제안한다.
• 조기 학습 단계에서 모델 예측 확률에 대해 높은 신뢰도 임계값(≥0.6)을 적용하여 높은 정밀도로 잠재적 누락 레이블(잘못된 음성)을 식별한다.
• 반경화된 양성에 대한 강조를 위해 Focal loss에 마진 하이퍼파rameter $m$을 도입하여 반경화된 양성에 대해 더 강조하는 Focal 마진 손실을 제안한다.
• SPLC는 고정된 조기 학습 에포크(1회차 이후)에서 적용되며, 2회차에서 5회차 사이의 정확한 타이밍은 성능에 민감하지 않다.
• 일반화성과 강건성을 검증하기 위해 다양한 백본(MobileNetV3, ResNet101, Swin-T)에 걸쳐 방법을 적용한다.

실험 결과

연구 질문

• RQ1 단순한 손실 함수 설계만으로도 부족한 레이블이 있는 다중 레이블 학습에서 최고 성능(SOTA)을 달성할 수 있는가?
• RQ2 조기 학습 단계에서도 모델 예측 확률이 잘못된 음성(누락된 레이블)을 높은 정밀도로 신뢰성 있게 식별할 수 있는가?
• RQ3 힐 형태의 함수를 활용해 음성을 재가중하는 것(Hill loss)이 표준 교차엔트로피나 Focal loss보다 잘못된 음성을 다루는 데 더 효과적인가?
• RQ4 모델 예측에 기반한 누락 레이블의 자기스케일링 보정이 추가 학습이나 네트워크 구성 요소 없이 성능 향상에 기여할 수 있는가?
• RQ5 부족한 레이블이 있는 다중 레이블 학습 맥락에서 반경화된 양성 마이닝이 하드 마이닝보다 더 효과적인가?

주요 결과

• 힐 손실은 모든 테스트된 백본에서 표준 BCE, Focal loss, ASL를 모두 능가하며, MobileNetV3를 사용한 COCO-40% 레이블에서 71.03 mAP를 기록했고, BCE는 68.45 mAP였다.
• 마진 파rameter $m=1$을 가진 Focal 마진 손실은 COCO-40% 레이블에서 75.15 mAP를 기록했으며, Focal loss(73.57)와 ASL(69.65)를 모두 능가했다.
• 임계값 0.6을 가진 SPLC는 COCO-40% 레이블에서 75.69 mAP를 기록했으며, BCE(68.45)와 WAN(69.27)를 크게 앞서갔다.
• Focal 마진 손실과 SPLC의 조합은 ResNet101에서 77.20 mAP, Swin-T에서 78.19 mAP를 기록하여 COCO-40%에서 새로운 SOTA를 수립했다.
• 이 방법들은 다양한 백본(MobileNetV3, ResNet101, Swin-T)에서 일관된 향상을 보이며, 특정 아키텍처에 국한되지 않는 일반화 능력을 보여주었다.
• 임계값 $\tau=0.6$는 잘못된 음성 식별에서 정밀도와 재현율의 최적 균형을 이룩했으며, 훈련 세트에서 오류율이 5% 이하였고, 다양한 조기 학습 에포크(2회차~5회차)에서 성능이 안정적이었다.