[논문 리뷰] A Novel GAN-based Fault Diagnosis Approach for Imbalanced Industrial Time Series

Wenqian Jiang, Cheng Cheng외 3명|arXiv (Cornell University)|2019. 04. 01.

Anomaly Detection Techniques and Applications참고 문헌 16인용 수 13

한 줄 요약

이 논문은 정상 샘플만으로 훈련되는 고유한 특징 추출기와 세 부분의 서브넷으로 구성된 인코더-디코더-인코더 아키텍처를 사용하는 GAN 기반의 불균형 산업용 시계열 데이터 고장 진단 방법을 제안한다. 모델은 고장 난 샘플에서 높은 재구성 오차 점수를 생성함으로써 높은 이상 탐지 성능를 달성하며, 벤치마크 및 실제 베어링 데이터셋에서 BiGAN보다 뛰어난 성능을 보인다.

ABSTRACT

This paper proposes a novel fault diagnosis approach based on generative adversarial networks (GAN) for imbalanced industrial time series where normal samples are much larger than failure cases. We combine a well-designed feature extractor with GAN to help train the whole network. Aimed at obtaining data distribution and hidden pattern in both original distinguishing features and latent space, the encoder-decoder-encoder three-sub-network is employed in GAN, based on Deep Convolution Generative Adversarial Networks (DCGAN) but without Tanh activation layer and only trained on normal samples. In order to verify the validity and feasibility of our approach, we test it on rolling bearing data from Case Western Reserve University and further verify it on data collected from our laboratory. The results show that our proposed approach can achieve excellent performance in detecting faulty by outputting much larger evaluation scores.

연구 동기 및 목표

• 정상 샘플이 고장 샘플보다 훨씬 많아지는 불균형 산업용 시계열 데이터의 문제를 해결한다.
• 큰 레이블이 부여된 고장 데이터셋이 필요 없이 드물게 발생하는 고장 패tern을 효과적으로 탐지할 수 있는 딥러닝 프레임워크를 개발한다.
• 다수 클래스에 대한 편향을 피하기 위해 정상 데이터만을 활용한 생성 모델링을 통해 고장 진단 성능을 향상시킨다.
• 공개 벤치마크 데이터(CWRU)와 실험실 환경에서 수집한 실제 산업 데이터를 기반으로 방법을 검증한다.
• 기존의 GAN 기반 방법들인 BiGAN과 비교하여 제안된 아키텍처가 단변량 시계열에서 이상 탐지에 있어 우월함을 입증한다.

제안 방법

• 원시 시계열에서 16개의 통계적 특징(RMS, 첨도, 비대칭도 등)을 추출하기 위해 도메인 특화의 특징 추출기를 설계하여 차원 축소와 계산 비용 절감을 달성한다.
• DCGAN 기반이지만 Tanh 활성화 함수를 사용하지 않은 세 부분의 서브넷 GAN 아키텍처(인코더-디코더-인코더)를 구현하며, 정상 샘플만으로 훈련한다.
• 생성자는 정상 시계열의 잠재 분포를 학습하고 입력 샘플을 재구성하며, 판별자는 실제 샘플과 생성된 샘플을 구분한다.
• 20 에포크 동안 Adam 옵timizer를 사용하여 초기 학습률 0.001, betas (0.5, 0.999)로 전체 네트워크를 훈련한다.
• 재구성 오차를 측정하여 이상을 탐지한다: 높은 점수는 정상 패턴에서의 더 큰 이탈을 나타낸다.
• 탐지 정확도를 극대화하기 위해 하이퍼파ram터(예: 서브샘플 길이 12,000, 잠재 벡터 크기 64)를 최적화한다.

실험 결과

연구 질문

• RQ1 정상 샘플만으로 훈련된 GAN 기반 모델이 불균형 산업용 시계열 데이터에서 고장을 효과적으로 탐지할 수 있는가?
• RQ2 제안된 특징 추출기가 원시 입력이나 일반적인 특징 추출 방식과 비교해 진단 성능를 어떻게 향상시키는가?
• RQ3 고장 탐지에 있어 강건한 성능를 내기 위해 최적의 하이퍼파ram터 구성(예: 서브샘플 길이, 잠재 차원)은 무엇인가?
• RQ4 제안된 아키텍처는 BiGAN과 같은 최신 기술의 GAN과 비교해 다양한 고장 유형을 탐지하는 데서 어떤가?
• RQ5 모델은 공개 벤치마크 데이터(CWRU)에서 실제 산업 데이터로의 일반화 능력이 어느 정도인가?

주요 결과

• 제안된 방법은 CWRU 롤링 베어링 데이터셋에서 뛰어난 고장 탐지 성능를 달성하였으며, 이상 점수 기반으로 정상 샘플과 고장 샘플 간에 명확한 분리가 이루어졌다.
• 실제 실험실 데이터에서는 높은 정확도를 유지하여 실생활 산업 환경에서의 적용 가능성을 입증하였다.
• 서브샘플 크기가 변할 때에도 BiGAN보다 정확도와 안정성에서 뛰어난 성능를 보이며 아키텍처의 우월성을 입증하였다.
• 실습 데이터셋에서 고장 패턴을 잘 포착하기 위해 최적의 서브샘플 길이로 12,000(50Hz에서 4분)이 유의미하게 선택되었다.
• 잠재 벡터 크기가 64일 때 실험실 데이터셋에서 가장 높은 정확도를 기록하였으며, CWRU 데이터셋에는 유의미한 영향을 미치지 않았다.
• 시각화 결과 고장 샘플이 정상 샘플보다 훨씬 높은 재구성 오차와 잠재 공간의 이탈을 보이며, 모델의 탐지 메커니즘이 타당함을 확인하였다.