[논문 리뷰] M2m: Imbalanced Classification via Major-to-minor Translation

Jaehyung Kim, Jongheon Jeong외 1명|arXiv (Cornell University)|2020. 04. 01.

Imbalanced Data Classification Techniques참고 문헌 43인용 수 18

한 줄 요약

이 논문은 사전 훈련된 분류기로 주로 클래스 샘플을 번역하여 소수 클래스의 합성 샘플을 생성하는 새로운 데이터 증강 방법 M2m을 제안한다. 적대적 유사 편향을 통해 다양한 주로 클래스 특징을 활용함으로써 M2m는 소수 클래스의 일반화 능력을 크게 향상시키며, Reuters와 같은 극단적인 장꼬리 데이터셋에서 LDAM과 같은 최신 기법보다 최대 17.1% 높은 균형 정확도를 기록한다.

ABSTRACT

In most real-world scenarios, labeled training datasets are highly class-imbalanced, where deep neural networks suffer from generalizing to a balanced testing criterion. In this paper, we explore a novel yet simple way to alleviate this issue by augmenting less-frequent classes via translating samples (e.g., images) from more-frequent classes. This simple approach enables a classifier to learn more generalizable features of minority classes, by transferring and leveraging the diversity of the majority information. Our experimental results on a variety of class-imbalanced datasets show that the proposed method improves the generalization on minority classes significantly compared to other existing re-sampling or re-weighting methods. The performance of our method even surpasses those of previous state-of-the-art methods for the imbalanced classification.

연구 동기 및 목표

• 극도로 불균형한 데이터셋에서 훈련된 딥 네ural 네트워크의 일반화 능력이 열 劣한 문제를 해결하기 위해.
• 소수 클래스 데이터가 부족하여 기존의 리샘플링 및 리웨이팅 방법이 극단적 클래스 불균형 하에서 실패하는 문제를 해결하기 위해.
• 주로 클래스의 다양성이 소수 클래스를 위한 더 일반화 가능한 특징을 생성하는 데 활용될 수 있는지 탐색하기 위해.
• 기존 소수 클래스 샘플에 의존하지 않아도 되는 단순하면서도 효과적인 오버샘플링 전략을 개발하기 위해.

제안 방법

• M2m는 사전 훈련된 분류기에 의해 목표 소수 클래스로 분류될 수 있도록 주로 클래스 샘플을 적대적 편향을 통해 최적화하여 합성 소수 클래스 샘플을 생성한다.
• 원본 샘플에 가까우면서도 소수 클래스로 정확히 분류될 수 있도록 보장하는 새로운 최적화 목표를 도입함으로써 주로 클래스의 성능를 유지한다.
• 더 흔한 주로 클래스에서의 번역을 선호하는 샘플 기각 기준을 설계하여 생성된 샘플의 품질과 다양성을 향상시킨다.
• 클래스 빈도와 기각 기준을 바탕으로 주로 시드 선택을 위한 최적의 샘플링 분포를 제안한다.
• 두 단계 훈련 설정을 사용한다: 먼저 불균형 데이터셋에서 분류기를 사전 훈련하고, 그 다음에 이를 활용해 주로 클래스 샘플을 합성 소수 클래스 샘플로 변환한다.
• 합성 샘플은 훈련 중 소수 클래스를 오버샘플링하는 데 사용되어 과적합 없이 일반화 능력을 향상시킨다.

Figure 1: An overview of the proposed method, called Major-to-minor Translation (M2m). M2m is based on the over-sampling method, and attempts to replace the over-sampled (duplicated) minority samples with synthetic ones translated from other majority samples. The more details are presented in Sectio

실험 결과

연구 질문

• RQ1 주로 클래스 샘플을 소수 클래스 표현으로 번역하는 것이 불균형 학습에서 소수 클래스의 일반화 능력을 향상시키는가?
• RQ2 번역을 통해 주로 클래스의 다양성을 활용하면 전통적인 소수 클래스 오버샘플링 방법보다 더 나은 특징 학습이 이루어지는가?
• RQ3 샘플 번역에 적대적 유사 편향을 사용할 경우 모델의 일반화 능력과 강건성에 어떤 영향을 미치는가?
• RQ4 기존 소수 클래스 샘플을 사용하지 않는 방법이 극단적인 장꼬리 데이터셋에서 최신 기법 수준의 성능을 달성할 수 있는가?
• RQ5 M2m의 성능 향상 요인이 생성된 샘플의 적대적 성격 때문인지, 아니면 주로 클래스 특징의 다양성 때문인지?

주요 결과

• M2m는 CIFAR-LT-10, CIFAR-LT-100, ImageNet, CelebA, SUN397, Twitter, Reuters를 포함한 모든 테스트 데이터셋에서 표준 ERM 및 리샘플링/리웨이팅 기반 베이스라인에 비해 균형 정확도를 크게 향상시켰다.
• 극도로 불균형한 Reuters 데이터셋에서 M2m는 표준 훈련 대비 17.1% 높은 균형 정확도를 기록했으며, 최신 기법인 LDAM 대비 9.2% 높았다.
• 제거 분석 결과, 적대적 편향을 가진 샘플이 아닌 청소된 주로 클래스 샘플(M2m-Clean)을 사용할 경우 성능가 급격히 저하됨을 확인하여 편향의 중요성을 입증했다.
• t-SNE 시각화 결과, M2m는 다른 방법에 비해 소수 클래스에 대해 더 분리 가능하고 균일하게 분포된 특징 표현을 생성함을 확인했다.
• M2m의 누적 거짓 양성 곡선은 다른 방법들보다 항상 아래에 위치해 있으며 선형에 더 가까워 모든 클래스에 걸쳐 균일하고 낮은 오차 분포를 나타낸다.
• 소수 클래스에 매우 적은 샘플이 존재하는 저자원 환경에서 M2m는 SMOTE 및 기타 SMOTE 변종보다 우수한 성능을 보이며, 이는 소수 클래스가 매우 적은 경우에도 효과적임을 입증한다.

Figure 2: An illustration of M2m generation. A majority seed $x_{0}$ is translated to a synthetic minority $x^{*}$ based on the decision boundary of $g$ . By incorporating $x^{*}$ , $f$ learns an extended decision boundary of the target minority class.