[논문 리뷰] Semi-supervised Anomaly Detection using AutoEncoders

Manpreet Singh Minhas, John Zelek|arXiv (Cornell University)|2020. 01. 06.

Anomaly Detection Techniques and Applications참고 문헌 10인용 수 26

한 줄 요약

이 논문은 정상(결함 없음) 이미지로만 훈련된 U-Net 유사 컨volution 오토에인코더를 사용하는 준지도 학습 이상 탐지 방법을 제안한다. 입력 이미지를 재구성하고 재구성된 이미지와의 픽셀 단위 잔차를 분석함으로써 임계값을 적용하여 이상을 탐지하며, 두 데이터셋에서 평균 F1 스코어 0.885를 달성하였다. 합성 균열 결함에 대해선 뛰어난 성능를 보였고, 실제 철도 표면 데이터에서 중간 수준의 노이즈에 대해서도 안정적인 성능를 보였다.

ABSTRACT

Anomaly detection refers to the task of finding unusual instances that stand out from the normal data. In several applications, these outliers or anomalous instances are of greater interest compared to the normal ones. Specifically in the case of industrial optical inspection and infrastructure asset management, finding these defects (anomalous regions) is of extreme importance. Traditionally and even today this process has been carried out manually. Humans rely on the saliency of the defects in comparison to the normal texture to detect the defects. However, manual inspection is slow, tedious, subjective and susceptible to human biases. Therefore, the automation of defect detection is desirable. But for defect detection lack of availability of a large number of anomalous instances and labelled data is a problem. In this paper, we present a convolutional auto-encoder architecture for anomaly detection that is trained only on the defect-free (normal) instances. For the test images, residual masks that are obtained by subtracting the original image from the auto-encoder output are thresholded to obtain the defect segmentation masks. The approach was tested on two data-sets and achieved an impressive average F1 score of 0.885. The network learnt to detect the actual shape of the defects even though no defected images were used during the training.

연구 동기 및 목표

• 산업 검사에서 레이블이 부여된 이상 샘플의 부족을 고려하여, 정상(결함 없음) 훈련 데이터만을 요구하는 이상 탐지 방법을 개발하는 것.
• 산업 광학 검사 및 인프라 자산 관리에서 결함 탐지를 자동화하여 수동 검사의 느림과 오류 발생 가능성을 줄이는 것.
• 훈련 중에 이상 샘플을 사전에 접촉하지 않더라도 다양한 결함 형태와 기하학적 구조를 탐지할 수 있도록 하는 것.
• 실제 및 합성 데이터셋에서 임계값 선택과 조명 변화에 대한 민감도와 방법의 내구성을 평가하는 것.

제안 방법

• 에ncoder와 디코더 블록을 사용한 U-Net 유사 컨volution 오토에인코더 아키텍처를 사용하며, 점점 작아지는 필터 크기와 전치 컨볼루션을 통해 재구성한다.
• 모든 컨볼루션 및 디코브리션 레이어 이후 배치 정규화와 ReLU 활성화 함수를 적용하여 훈련 안정성 향상과 특징 학습 개선을 도모한다.
• 원본 입력 이미지와 오토에인코더의 재구성 출력 사이의 평균 제곱오차(MSE) 손실을 사용하여 모델을 훈련하며, 50 에포크 동안 Adam 옵timizer를 사용한다.
• 이상은 입력 이미지와 재구성된 이미지 사이의 픽셀 단위 차이로 계산된 잔차 맵을 통해 탐지한다: R = X − AE(X).
• 잔차 맵에 임계값을 적용하면 최종 결함 세그멘테이션 마스크가 생성되며, 탐지 민감도는 임계값 선택에 따라 달라진다.
• 모델는 이상 데이터 없이 정상 샘플만으로 훈련되므로, 이상 데이터가 부족하거나 존재하지 않는 준지도 학습 환경에 적합하다.

실험 결과

연구 질문

• RQ1 정상 이미지로만 훈련된 딥 오토에인코더가 이상 훈련 데이터 없이 다양한 결함 형태와 기하학적 구조를 탐지할 수 있는가?
• RQ2 실제 및 합성 산업 결함 데이터셋에서 오토에인코더 재구성 오차 기반 잔차 기반 이상 탐지의 효과성은 어떠한가?
• RQ3 잔차 맵 세그멘테이션 단계에서 임계값 선택에 따른 성능 민감도는 얼마나 되는가?
• RQ4 조명 변화와 이미지 노이즈는 실제 데이터에서 잘못된 탐지(거짓 경고)에 얼마나 영향을 미치는가?
• RQ5 특히 훈련 중에 직접적으로 접촉하지 않은 결함의 형태와 크기 변화에 대해서도 이 방법이 일반화 가능한가?

주요 결과

• 합성 DAGMC8 데이터셋에서 F1 스코어가 0.96을 기록하여, 노이즈가 거의 없는 균열 결함 탐지에 뛰어난 성능를 보였다.
• 실제 데이터인 RSDDsI 데이터셋에서는 F1 스코어가 0.81이었으며, 이는 효과적인 탐지 성능를 보였지만 노이즈 증가와 임계값 민감도가 증가함을 시사했다.
• 오토에인코더는 정상 텍스처를 성공적으로 재구성하였고, 이상 훈련 데이터 없이도 실제 결함 형태를 강조하는 의미 있는 잔차 맵을 생성하였다.
• 이 방법은 임계값 선택에 매우 민감하여, 작은 변화만으로도 세그멘테이션 출력에 큰 변동이 발생함을 확인하여, 강력한 임계값 전략 수요가 있음을 시사했다.
• RSDDsI 데이터셋의 조명 변화는 종종 결함으로 오분류되어 거짓 긍정을 유발하였으며, 이는 조명 변화에 대한 내구성에 한계가 있음을 보여주었다.
• 이 방법은 다양한 기하학적 형태와 크기를 가진 결함을 탐지할 수 있는 능력을 보였으며, 산업 응용 분야에서 메트릭 기반 결함 분석 잠재력을 보여주었다.