[논문 리뷰] G-SMOTE: A GMM-based synthetic minority oversampling technique for imbalanced learning

Tianlun Zhang, Xi Yang|arXiv (Cornell University)|2018. 10. 24.

Imbalanced Data Classification Techniques인용 수 7

한 줄 요약

G-SMOTE는 고차원 공간에서 더 현실적인 합성 소수 클래스 샘플을 생성하고, 가우시안 믹스처 모델(GMM)을 통해 이상치 및 노이즈가 있는 합성 다수 클래스 인스턴스를 필터링하며, 적응형 하이퍼파ram터 최적화를 통해 불균형 학습을 향상시키는 GMM 기반의 합성 소수 클래스 오버샘플링 기법을 제안한다. 이 방법은 여러 데이터셋에서 뛰어난 분류 성능을 달성하며, 버그 트리징 및 의료 진단 작업에서 특히 두각을 나타낸다.

ABSTRACT

Imbalanced Learning is an important learning algorithm for the classification models, which have enjoyed much popularity on many applications. Typically, imbalanced learning algorithms can be partitioned into two types, i.e., data level approaches and algorithm level approaches. In this paper, the focus is to develop a robust synthetic minority oversampling technique which falls the umbrella of data level approaches. On one hand, we proposed a method to generate synthetic samples in a high dimensional feature space, instead of a linear sampling space. On the other hand, in the proposed imbalanced learning framework, Gaussian Mixture Model is employed to distinguish the outliers from minority class instances and filter out the synthetic majority class instances. Last and more importantly, an adaptive optimization method is proposed to optimize these parameters in sampling process. By doing so, an effectiveness and efficiency imbalanced learning framework is developed.

연구 동기 및 목표

• 기존 SMOTE의 선형 보간 방식이 고차원 특성 공간에서 약한 점을 보완하기 위해, 더 유연하고 분포 인식 기반의 샘플링 전략으로 선형 보간을 대체한다.
• 가우시안 믹스처 모델(GMM)을 활용해 이상치 및 합성 다수 클래스 인스턴스를 식별하고 제거하여 합성 소수 클래스 샘플의 품질을 향상시킨다.
• 샘플링 파aram터(예: 이웃 수, GMM 성분 수)를 모델 성능에 기반해 최적화하는 적응형 최적화 프레임워크를 개발하여 수동 히ュ리스틱 기반 설정에 대한 의존도를 줄인다.
• 더 표현력 있고 강건한 합성 소수 클래스 인스턴스를 생성함으로써 불균형 데이터셋에서의 분류 성능을 향상시킨다.
• 의료 진단 및 소프트웨어 버그 트리징 시스템을 포함한 다양한 실제 데이터셋에서 제안된 방법의 효과성을 입증한다.

제안 방법

• 소수 클래스 인스턴스의 기저 분포를 기반으로 한 비선형 샘플링 전략을 도입하여, 고차원 공간에서의 일반화 능력을 향상시키기 위해 특성 공간 내 SMOTE의 선형 보간을 대체한다.
• 소수 클래스 인스턴스의 밀도를 모델링하기 위해 가우시안 믹스처 모델(GMM)을 적용하여, 합성 샘플링 과정에서 이상치를 식별하고 제거한다.
• GMM을 사용해 다수 클래스와 유사한 합성 인스턴스를 탐지하고 제거함으로써, 노이즈가 많거나 오해의 소지가 있는 샘플이 포함되는 위험을 줄인다.
• 샘플링 파aram터(예: 이웃 수, GMM 성분 수)를 학습 중 모델 성능에 기반해 최적화하는 적응형 최적화 방법을 도입한다.
• GMM 기반의 필터링과 적응형 최적화를 통합한 유일한 프레임워크를 구축하여 합성 샘플의 품질과 다양성을 모두 향상시킨다.
• G-SMOTE 프레임워크 적용 전에 텍스트 버그 리포트를 TF-IDF 벡터화하여 비정형 데이터를 수치적 특성으로 변환한다.

실험 결과

연구 질문

• RQ1 GMM 기반 접근법이 선형 SMOTE 대비 고차원 특성 공간에서 합성 소수 클래스 샘플의 품질을 향상시킬 수 있는가?
• RQ2 GMM이 소수 오버샘플링 과정에서 이상치 및 합성 다수 클래스 인스턴스를 얼마나 효과적으로 식별하고 제거할 수 있는가?
• RQ3 적응형 파aram터 최적화가 고정 또는 히ュ리스틱 기반 파aram터 설정 대비 더 나은 분류 성능을 이끌어낼 수 있는가?
• RQ4 G-SMOTE는 소프트웨어 버그 트리징 및 의료 진단과 같은 복잡한 고차원 도메인에서 다양한 실제 데이터셋에서 어떻게 성능을 발휘하는가?
• RQ5 제안된 방법은 과적합과 소수 클래스 표현의 노이즈를 줄이며 F-측정치와 정확도를 유지하거나 향상시킬 수 있는가?

주요 결과

• CVFTM 데이터셋에서 G-SMOTE는 데이터 증강을 통해 F-측정치 100.0%와 정확도 99.9537%를 달성하여 기준 방법들을 능가했다.
• 버그 트리징 데이터셋(Eclipse CDT_cdt-core)에서 증강 데이터를 사용한 결과, F-측정치는 71.554에서 76.004로, 정확도는 79.941%에서 81.416%로 향상되었다.
• Mozilla Core_Printing 데이터셋에서 F-측정치는 81.586%에서 81.586%로 동일했지만, 정확도는 86.642%에서 86.642%로 상승하여 안정적인 성능과 다른 지표에서의 일致한 향상을 보였다.
• GNOME Evolution_Contacts 데이터셋에서 증강을 적용한 결과 정확도 77.113%와 F-측정치 75.103%를 기록하여 비증강 기준 방법 대비 일致된 향상을 보였다.
• 적응형 최적화 프레임워크는 수동 하이퍼파aram터 튜닝에 대한 의존도를 감소시켜 다양한 데이터셋에서 더 강건하고 일반화 능력 있는 결과를 이끌어냈다.
• GMM 필터링 통합은 고차원 및 희소 데이터 환경(예: 텍스트 버그 리포트)에서 특히 노이즈가 많은 합성 샘플 수를 효과적으로 줄였다.