[논문 리뷰] Class Imbalance Problem in Data Mining Review

Rushi Longadge, Snehalata Dongre|arXiv (Cornell University)|2013. 05. 08.

Imbalanced Data Classification Techniques참고 문헌 21인용 수 448

한 줄 요약

이 논문은 데이터 마이닝에서의 클래스 불균형 문제에 대한 종합적인 리뷰를 제공하며, 소수 클래스의 잘못된 분류 문제를 다루기 위해 알고리즘 기반, 데이터 전처리, 특징 선택의 세 가지 주요 접근 방식을 분석한다. 각 접근 방식의 강점과 한계를 평가하여 기계 학습 응용 분야에서 불균형 데이터셋을 다루는 데 있어 향후 연구를 위한 체계적인 기반을 제공한다.

ABSTRACT

In last few years there are major changes and evolution has been done on classification of data. As the application area of technology is increases the size of data also increases. Classification of data becomes difficult because of unbounded size and imbalance nature of data. Class imbalance problem become greatest issue in data mining. Imbalance problem occur where one of the two classes having more sample than other classes. The most of algorithm are more focusing on classification of major sample while ignoring or misclassifying minority sample. The minority samples are those that rarely occur but very important. There are different methods available for classification of imbalance data set which is divided into three main categories, the algorithmic approach, data-preprocessing approach and feature selection approach. Each of this technique has their own advantages and disadvantages. In this paper systematic study of each approach is define which gives the right direction for research in class imbalance problem.

연구 동기 및 목표

• 데이터 마이닝에서 소수 클래스가 데이터셋의 편향으로 인해 자주 잘못 분류되는 클래스 불균형 문제를 체계적으로 분석하기 위해.
• 주요 세 가지 솔루션 카테고리인 알고리즘 기반, 데이터 전처리 및 특징 선택 기법을 검토하기 위해.
• 각 접근 방식의 장점과 한계를 평가하여 불균형 데이터를 다루는 데 있어 향후 연구를 안내하기 위해.
• 특정 불균형 데이터 시나리오에 적합한 방법을 선택하는 데 지원하는 체계적인 개요를 제공하기 위해.

제안 방법

• 클래스 불균형 문제를 해결하기 위한 기존 방법을 알고리즘 기반, 데이터 전처리, 특징 선택의 세 가지 주요 범주로 분류한다.
• 학습 중에 소수 클래스 샘플을 우선시하도록 학습 알고리즘을 수정하는 알고리즘 기반 방법을 검토한다.
• SMOTE와 같은 오버샘플링 및 언더샘플링을 포함한 데이터 전처리 기법을 분석하여 클래스 분포를 재균형화한다.
• 불균형 데이터셋에서 관련 특징에 집중함으로써 분류기 성능을 향상시키는 특징 선택 기법을 검토한다.
• 보고된 성능 지표와 사용 사례 기반으로 각 접근 방식의 효과성을 비교한다.
• 연구자들이 데이터셋 특성에 따라 방법을 선택하고 적응할 수 있도록 통합된 프레임워크로 결과를 요약한다.

실험 결과

연구 질문

• RQ1 데이터 마이닝 응용 분야에서 클래스 불균형의 주요 원인과 영향은 무엇인가?
• RQ2 알고리즘 기반 접근 방식은 표준 학습 알고리즘에 비해 소수 클래스 분류를 어떻게 향상시키는가?
• RQ3 오버샘플링과 언더샘플링와 같은 데이터 전처리 기법 간의 상충 관계는 무엇인가?
• RQ4 특징 선택 기법이 불균형 데이터에서 전통적 분류 기법보다 뛰어난 성능을 보이는 상황은 어떤가?
• RQ5 데이터셋 크기, 클래스 분포, 특징 복잡도를 바탕으로 연구자들이 특정 불균형 데이터셋에 가장 적합한 방법을 어떻게 선택할 수 있는가?

주요 결과

• 표준 분류기의 정확도는 주로 다수 클래스에 대한 편향된 학습으로 인해 소수 클래스의 정확도가 크게 저하된다.
• SMOTE 및 무작위 오버샘플링과 같은 데이터 전처리 기법은 소수 클래스 탐지에 도움이 되지만, 과적합 또는 노이즈를 유발할 수 있다.
• 클래스 가중치를 재조정하거나 손실 함수를 수정하는 알고리즘 기반 접근 방식은 단순 재샘플링에 비해 소규모 불균형 데이터셋에서 더 뛰어난 성능을 보인다.
• 특징 선택 기법은 불필요하거나 중복되는 특징을 줄임으로써 고차원 불균형 데이터셋에서 모델의 일반화 능력을 향상시킨다.
• 단일 방법이 항상 다른 방법보다 뛰어나지 않으며, 효과성은 데이터셋 크기, 클래스 분포, 특징 공간의 복잡도에 따라 달라진다.
• 전처리와 알고리즘 수정을 조합한 하이브리드 접근 방식은 다양한 실세계 응용 분야에서 뛰어난 성능을 내는 경우가 많다.