[논문 리뷰] MSE Loss with Outlying Label for Imbalanced Classification

Sota Kato, Kazuhiro Hotta|arXiv (Cornell University)|2021. 07. 06.

Imbalanced Data Classification Techniques참고 문헌 29인용 수 7

한 줄 요약

이 논문은 딥러닝에서의 클래스 불균형 문제를 해결하기 위해 평균 제곱 오차(MSE) 손실과 외곽선 클래스 레이블을 조합하는 새로운 손실 함수를 제안한다. 클래스 빈도에 따라 레이블을 재가중하여 희귀 클래스에 대해 '외곽선' 마진을 생성함으로써, 모든 클래스 간 역전파를 균형 있게 만들고 특성 공간의 분리도 향상시킨다. 이 방법은 네트워크 아키텍처나 데이터 증강 기법을 변경하지 않고도, 이미지 분류 및 의미적 세그멘테이션 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

In this paper, we propose mean squared error (MSE) loss with outlying label for class imbalanced classification. Cross entropy (CE) loss, which is widely used for image recognition, is learned so that the probability value of true class is closer to one by back propagation. However, for imbalanced datasets, the learning is insufficient for the classes with a small number of samples. Therefore, we propose a novel classification method using the MSE loss that can be learned the relationships of all classes no matter which image is input. Unlike CE loss, MSE loss is possible to equalize the number of back propagation for all classes and to learn the feature space considering the relationships between classes as metric learning. Furthermore, instead of the usual one-hot teacher label, we use a novel teacher label that takes the number of class samples into account. This induces the outlying label which depends on the number of samples in each class, and the class with a small number of samples has outlying margin in a feature space. It is possible to create the feature space for separating high-difficulty classes and low-difficulty classes. By the experiments on imbalanced classification and semantic segmentation, we confirmed that the proposed method was much improved in comparison with standard CE loss and conventional methods, even though only the loss and teacher labels were changed.

연구 동기 및 목표

• 희귀 클래스에 대해 일반화 능력이 떨어지는 딥 네트워크의 문제를 해결한다.
• 기본 교차 엔트로피 손실에서 발생하는 클래스 불균형으로 인한 역전파 편향을 해소한다.
• 거리 학습 방식으로 클래스 간 상호관계를 모델링하여 특성 공간 학습을 향상시킨다.
• 데이터 리샘플링이나 복잡한 아키텍처를 변경하지 않고도 자원이 제한된 클래스의 학습을 향상시키는 손실 함수를 개발한다.
• 기존 학습 파이프라인에 최소한의 수정으로도 이미지 분류 및 의미적 세그멘테이션 작업 전반에 걸쳐 효과를 입증한다.

제안 방법

• 기본 one-hot 교사 레이블을 클래스 샘플 빈도에 따라 조정되는 외곽선 레이블로 대체한다.
• 샘플 수가 적은 클래스일수록 특성 공간에서 더 큰 마진 값을 할당하도록 외곽선 레이블을 정의한다.
• 예측값과 외곽선 레이블 간의 L2 거리 최소화를 위해 MSE 손실을 사용함으로써 모든 클래스 간 균형 잡힌 역전파를 가능하게 한다.
• 외곽선 마진의 정도를 제어할 수 있는 하이퍼파라미터 α를 도입하여 고빈도 및 저빈도 클래스 간 분리도를 조정할 수 있도록 한다.
• 네트워크 아키텍처나 데이터 증강 기법을 변경하지 않고, 수정된 손실 함수와 레이블만을 사용하여 모델을 훈련한다.
• 이 방법을 이미지 분류 및 의미적 세그멘테이션에 모두 적용하고, t-SNE 시각화를 통해 학습된 특성 공간을 분석한다.

실험 결과

연구 질문

• RQ1 표준 교차 엔트로피 손실 대비 MSE 손실에 외곽선 레이블을 적용했을 때, 클래스 불균형 데이터셋에서 분류 정확도가 향상되는가?
• RQ2 제안된 방법이 고난이도(희귀) 클래스와 저난이도(공통) 클래스를 더 잘 분리하는 더 구분력 있는 특성 공간을 생성하는가?
• RQ3 외곽선 마진을 제어하는 하이퍼파라미터 α는 다양한 데이터셋과 클래스 불균형 수준에서 성능에 어떤 영향을 미치는가?
• RQ4 제안된 손실 함수는 장테일 클래스 분포를 가진 의미적 세그멘테이션 작업에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ5 성능 향상은 단순히 희귀 클래스에 대한 손실 증가 때문인가, 아니면 특성 공간의 조직화 개선 때문인가?

주요 결과

• 장테일 CIFAR-100에서 제안된 방법은 52.41%의 top-1 정확도를 기록했으며, 가중치가 부여된 교차 엔트로피 손실 대비 1.43% 향상되었다.
• CamVid에서의 의미적 세그멘테이션 작업에서는 72.69%의 mIoU를 달성했으며, 가중치가 부여된 교차 엔트로피 손실 대비 5.2% 향상되었고, Dice 손실 대비 2.94% 향상되었다.
• CamVid에서 최적의 α 값은 6로 확인되었으며, mIoU는 72.69%에 도달했고, α > 6일 경우 성능이 저하됨을 통해 하이퍼파라미터 조정에 민감함을 입증했다.
• t-SNE 시각화 결과, α를 증가시킬수록 희귀 클래스(예: 'Bicyclist')와 공통 클래스 간의 분리도 향상되어 특성의 구분력이 향상됨을 확인했다.
• 분류 및 세그멘테이션 작업 전반에서 Focal Loss 및 기타 전통적 손실 함수보다 뛰어난 성능을 보이며, 다양한 도메인에 걸쳐 뛰어난 안정성을 입증했다.
• 네트워크 아키텍처나 데이터 샘플링 전략을 변경하지 않고도 손실 함수와 교사 레이블만 수정함으로써 성능 향상을 달성했다.