[논문 리뷰] Deep Dense and Convolutional Autoencoders for Unsupervised Anomaly Detection in Machine Condition Sounds

Alexandrine Ribeiro, Luís Miguel Matos외 5명|arXiv (Cornell University)|2020. 06. 18.

Music and Audio Processing참고 문헌 14인용 수 21

한 줄 요약

이 논문은 메르-스펙트로그램 특징를 사용하여 정상적인 사운드 샘플만을 사용하여 기계 상태 사운드에서 비정상 현상을 비지도로 탐지하기 위해 딥 디ensa 및 컨volutional 오토인코더(AE)를 제안한다. 정상 사운드 샘플만으로 훈련된 모델은 복원 오차를 측정하여 이상 현상을 탐지하며, 특히 슬라이더 및 밸브 기계에서 경쟁적인 성능을 기록한다. 모든 지표에서 DCASE 2020 베이스라인을 초월한다.

ABSTRACT

This technical report describes two methods that were developed for Task 2 of the DCASE 2020 challenge. The challenge involves an unsupervised learning to detect anomalous sounds, thus only normal machine working condition samples are available during the training process. The two methods involve deep autoencoders, based on dense and convolutional architectures that use melspectogram processed sound features. Experiments were held, using the six machine type datasets of the challenge. Overall, competitive results were achieved by the proposed dense and convolutional AE, outperforming the baseline challenge method.

연구 동기 및 목표

• 정상 훈련 데이터만을 사용하여 기계 상태 사운드에서 비지도 이상 탐지를 수행한다.
• 사전 이상 지식 없이 다양한 기계 유형에 일반화되는 딥 오토인코더 모델을 개발한다.
• 더 깊은 아키텍처와 메르-스펙트로그램 특징를 활용하여 DCASE 2020 챌린지 베이스라인을 향상시킨다.
• 표준 지표를 사용하여 여섯 가지의 다른 기계 유형(ToyCar, ToyConveyor, fan, pump, slider, valve)에서 모델 성능을 평가한다.
• 각 기계 유형에 가장 잘 성능을 내는 AE를 선택하는 하이브리드 접근 방식을 설계하여 총합 탐지 성능을 극대화한다.

제안 방법

• 시간-스펙트럼 표현을 위해 사운드의 메르-스펙트로그램 특징를 딥 디ensa 및 컨볼루션 오토인코더의 입력으로 사용한다.
• 네 개의 512 유닛 히든 레이어, 배치 정규화, ReLU 활성화 함수, 8 유닛 버스트 레이어를 포함한 깊은 완전 연결 오토인코더를 구현한다.
• 계층적 특징 학습을 위해 스트라이드 컨볼루션과 트랜스포즈 컨볼루션을 사용하는 컨볼루션 오토인코더를 설계한다.
• 정상 패턴에서의 복원 오차를 최소화하기 위해 두 모델을 모두 정상 사운드 샘플 전용으로 훈련한다.
• 미리 보지 못한 데이터에서 복원 오차를 계산하여 이상 현상을 탐지한다—오차가 클수록 이상임을 의미한다.
• 검증 성능에 기반해 각 기계 유형에 대해 가장 잘 성능을 내는 AE(디ensa 또는 CNN)를 선택하는 혼합 모델 전략을 적용한다.

실험 결과

연구 질문

• RQ1 딥 디ensa 및 컨볼루션 오토인코더는 정상 훈련 데이터만을 사용하여 기계 사운드의 이상 현상을 효과적으로 탐지할 수 있는가?
• RQ2 다양한 기계 유형에서 메르-스펙트로그램 기반 오토인코더는 DCASE 2020 베이스라인 대비 AUC 및 pAUC에서 어떻게 비교되는가?
• RQ3 컨볼루션 오토인코더는 사운드 스펙트로그램의 공간-시간 패턴을 디ensa 오토인코더보다 더 잘 포착하는가?
• RQ4 각 기계 유형에 대해 가장 잘 성능을 내는 AE를 조합하는 하이브리드 모델은 총합 이상 탐지 성능을 향상시킬 수 있는가?
• RQ5 아키텍처의 깊이와 정규화(배치 정규화)는 복원 정확도와 이상 탐지에 대한 강건성에 어떤 영향을 미치는가?

주요 결과

• 디ensa 오토인코더는 평균 AUC(78.77% 대 베이스라인) 및 pAUC(67.58% 대 베이스라인)에서 여섯 기계 유형 전부에서 DCASE 2020 베이스라인을 초월했다.
• 컨볼루션 오토인코더는 모든 모델 중 평균 AUC(80.79%)와 pAUC(71.17%)가 가장 높았으며, 여섯 기계 유형 중 다섯에서 베이스라인을 초월했다.
• 슬라이더 기계 유형에서는 컨볼루션 오토인코더가 AUC 98.86%와 pAUC 94.47%를 기록하여 이상 탐지 능력이 뛰어나다는 것을 보여주었다.
• 각 기계 유형에 가장 잘 성능을 내는 AE를 선택하는 혼합 모델 접근 방식은 가장 강력한 총합 성능을 보였으며, 평균 AUC 83.45%와 pAUC 73.50%를 기록했다.
• 디ensa 오토인코더는 ToyCar(AUC 85.97%), ToyConveyor(AUC 76.43%), fan(AUC 72.03%), pump(AUC 73.06%)에서 최고 성능를 기록했고, CNN AE는 슬라이더(AUC 91.77%)와 밸브(AUC 78.83%)에서 뛰어난 성능를 보였다.
• 가장 뛰어난 성능를 기록한 모델(CNN AE on slider)은 AUC 98.86%를 기록하여 해당 기계 유형에서 거의 완벽한 이상 탐지 능력을 보였다.