[논문 리뷰] An Adaptive Oversampling Learning Method for Class-Imbalanced Fault Diagnostics and Prognostics

Wenfang Lin, Zhenyu Wu외 1명|arXiv (Cornell University)|2018. 11. 19.

Imbalanced Data Classification Techniques참고 문헌 4인용 수 4

한 줄 요약

이 논문은 기반 데이터 분포를 유지하면서 어려운 학습 대상인 소수 클래스 샘플을 우선적으로 고려하는 가중치가 부여된 소수 클래스 샘플링과 EM 기반 보간법을 융합하여 고급 품질의 소수 클래스 샘플을 생성하는 적응형 합성 오버샘플링 방법인 EWMOTE를 제안한다. 이는 다양한 불균형 비율을 가진 이진 및 다중 분류 장애 진단 및 예측 작업에서 기준 방법들보다 뛰어난 성능을 달성한다.

ABSTRACT

Data-driven fault diagnostics and prognostics suffers from class-imbalance problem in industrial systems and it raises challenges to common machine learning algorithms as it becomes difficult to learn the features of the minority class samples. Synthetic oversampling methods are commonly used to tackle these problems by generating the minority class samples to balance the distributions between majority and minority classes. However, many of oversampling methods are inappropriate that they cannot generate effective and useful minority class samples according to different distributions of data, which further complicate the process of learning samples. Thus, this paper proposes a novel adaptive oversampling technique: EM-based Weighted Minority Oversampling TEchnique (EWMOTE) for industrial fault diagnostics and prognostics. The methods comprises a weighted minority sampling strategy to identify hard-to-learn informative minority fault samples and Expectation Maximization (EM) based imputation algorithm to generate fault samples. To validate the performance of the proposed methods, experiments are conducted in two real datasets. The results show that the method could achieve better performance on not only binary class, but multi-class imbalance learning task in different imbalance ratios than other oversampling-based baseline models.

연구 동기 및 목표

• 산업 시스템의 데이터 기반 장애 진단 및 예측에서 소수 클래스 장애 샘플이 부족하고 학습하기 어려운 불균형 데이터 문제를 해결하기 위해.
• 데이터 분포에 적응하고 학습하기 어려운 유의미한 샘플을 식별하여 합성 소수 클래스 샘플의 품질을 향상시키기 위해.
• 알고리즘 수준의 수정 없이도 분류기 성능을 향상시키는 데이터 수준의 오버샘플링 기법을 개발하기 위해.
• 다양한 불균형 비율을 가진 실제 산업 데이터셋에서 제안된 방법의 유효성을 검증하기 위해.

제안 방법

• EWMOTE는 합성 생성을 위해 학습하기 어려운 소수 클래스 장애 샘플을 우선적으로 고려하는 가중치가 부여된 소수 클래스 샘플링 전략을 사용한다.
• 기존 소수 클래스 샘플의 기저 분포를 기반으로 누락된 값을 보간하기 위해 기대값 최대화(Expectation-Maximization, EM) 알고리즘을 사용하여 새로운 소수 클래스 샘플을 생성한다.
• EWMOTE는 MWMOTE를 개선하기 위해 EM 보간법을 통합하여 데이터 분포를 유지하고 생성된 샘플의 노이즈를 감소시킨다.
• 차원 축소 없이 특징 추출을 수행하여 진단 정보를 유지한 후, 분류 이전에 데이터 수준의 오버샘플링을 수행한다.
• 소수 클래스의 통계적 구조에 따라 적응적으로 합성 샘플을 생성하여 다수 클래스 경계의 왜곡을 최소화한다.
• 프레임워크는 특징 추출, EWMOTE를 통한 데이터 수준 오버샘플링, 분류의 파ipeline를 통해 평가되며, 다양한 불균형 비율에서 성능이 평가된다.

실험 결과

연구 질문

• RQ1 높은 불균형 비율을 가진 산업 시스템에서 적응형 오버샘플링 방법이 장애 탐지 성능을 향상시킬 수 있는가?
• RQ2 EWMOTE는 다양한 불균형 비율에서 정밀도, 재현율, F-측정치 측면에서 SMOTE, MWMOTE, EMICIL과 비교해 어떻게 성능을 내는가?
• RQ3 EM 기반 보간법과 가중치가 부여된 소수 클래스 샘플링의 통합이 기존 오버샘플링 기법보다 더 효과적인 합성 샘플을 생성하는가?
• RQ4 EWMOTE는 다양한 정도의 클래스 불균형을 가진 다중 분류 장애 분류 작업에서 얼마나 강건한가?
• RQ5 기준 방법들에 비해 EWMOTE는 노이즈가 많거나 오도를 일으키는 소수 클래스 샘플의 생성을 얼마나 줄이는가?

주요 결과

• 바람 터빈 얼음 고장 데이터셋에서 EWMOTE는 재현율 0.8302, 정밀도 0.8573, FAM 0.8326을 기록하여 SMOTE, MWMOTE, EMICIL를 모두 초월했다.
• 다중 장애 발생 공장 데이터셋에서 EWMOTE는 장애 유형 F3에 대해 가장 높은 F-측정치(0.8793)를 기록했으며, 모든 장애 유형에서 뛰어난 성능 유지를 보였다.
• 높은 불균형 비율을 가진 F5 유형에 대해 EWMOTE는 MWMOTE보다 더 높은 참양성률과 EMICIL보다 더 낮은 거짓양성률을 기록하여 더 뛰어난 강건성을 보였다.
• 바람 터빈 데이터셋에서 EWMOTE는 SMOTE 대비 F-측정치 1.8% 향상, MWMOTE 대비 0.7% 향상하여 균형 잡힌 성능 지표에서 일관된 성과 향상을 보였다.
• 혼동 행렬 분석을 통해 EWMOTE는 특히 높은 불균형 상황에서 더 정확하고 노이즈가 적은 샘플을 생성했으며, 소수 클래스의 잘못된 분류를 줄였다.
• 정상 샘플에 대해 EWMOTE는 높은 정밀도(0.9536)와 재현율(0.9614)을 유지하여 다수 클래스 분포에 대한 영향 최소화를 확인했다.