[논문 리뷰] An Encoder-Decoder Based Approach for Anomaly Detection with Application in Additive Manufacturing

Baihong Jin, Yingshui Tan외 5명|arXiv (Cornell University)|2019. 07. 26.

Anomaly Detection Techniques and Applications참고 문헌 22인용 수 7

한 줄 요약

이 논문은 적층 제조에서 적외선 센서 데이터를 사용하여 비지도 학습 기반의 인코더-디코더 딥 러닝 모델을 제안한다. 순차적인 열화상 이미지에서 재구성 오차와 회귀 오차를 동시에 최소화함으로써, 레이블이 없는 데이터를 사용하여 이상 현상—특히 온도 균일성 부족—을 탐지하며, 고편이성 레이어에서 AUC > 0.97을 달성하고 비학습 기반 기준보다 뛰어난 성능을 보인다.

ABSTRACT

We present a novel unsupervised deep learning approach that utilizes the encoder-decoder architecture for detecting anomalies in sequential sensor data collected during industrial manufacturing. Our approach is designed not only to detect whether there exists an anomaly at a given time step, but also to predict what will happen next in the (sequential) process. We demonstrate our approach on a dataset collected from a real-world testbed. The dataset contains images collected under both normal conditions and synthetic anomalies. We show that the encoder-decoder model is able to identify the injected anomalies in a modern manufacturing process in an unsupervised fashion. In addition, it also gives hints about the temperature non-uniformity of the testbed during manufacturing, which is what we are not aware of before doing the experiment.

연구 동기 및 목표

• 정상 훈련 데이터만을 사용하여 산업 제조 공정에서의 이상 현상을 탐지하기 위한 비지도 딥 러닝 접근법을 개발하는 것.
• 이상 탐지 외에도 순차적 센서 데이터에서 이상 현상의 진행 상황에 대한 예측적 통찰을 제공하는 것.
• 비지도 분석을 통해 적층 제조 실험 장치에서 이전에 발견되지 않은 온도 균일성 부족을 식별하는 것.
• 합성 이상을 실제 적층 제조 공정 데이터에 주입하여 모델의 성능을 평가하며, 특히 레이저 출력 편이 변화에 따른 성능을 분석하는 것.
• 루트 평균 제곱 온도를 이상도 수치로 사용하는 단순 비학습 기반 기준과의 성능 비교

제안 방법

• 모델은 순차적인 열화상 데이터에서 입력된 적외선 이미지를 재구성하기 위해 오토인코더 기반의 인코더-디코더 아키텍처를 사용한다.
• 이상도 수치는 재구성 오차(MSE: 입력 이미지와 재구성된 이미지 간의 평균제곱오차)와 회귀 오차(MSE: 예측된 다음 프레임 이미지와 실제 다음 프레임 이미지 간의 평균제곱오차)의 가중합으로 계산된다.
• 손실 함수는 두 오차를 동일한 가중치(λ = 1)로 조합하여 500 에포크 동안 훈련 중 최소화된다.
• 정상적인 이상도 수치의 급격한 피크를 식별하기 위해 20점 윈도우를 사용한 탈트렌딩 기법을 적용하여 일시적인 이상 현상 탐지 능력을 향상시킨다.
• 특히 고온도 기울기가 큰 영역에서 이상 영역의 국소화를 향상시키기 위해 공간 범위 설정(Spatial scoping)을 오차 지표로 적용한다.
• 정상 레이어의 최대 선별 회귀 점수를 기반으로 한 임계값 기반 탐지 방법을 사용하여 임의의 이상 탐지(false positive)를 방지하며, 이는 이진 이상 분류를 가능하게 한다.

실험 결과

연구 질문

• RQ1 비지도 인코더-디코더 모델은 레이블이 없는 비정상 데이터를 사용하여 실제 적층 제조 공정에서 합성 이상을 탐지할 수 있는가?
• RQ2 재구성 오차와 회귀 오차를 동시에 최소화하는 손실 함수는 단순한 온도 기반 기준보다 더 뛰어난 이상 탐지 성능을 제공하는가?
• RQ3 모델은 표준 지표로는 직접 관측되지 않는 과거에 드러나지 않은 프로세스 불안정성, 예를 들어 온도 균일성 부족을 드러낼 수 있는가?
• RQ4 주입된 이상에서 레이저 출력 편이의 크기에 따라 모델의 성능은 어떻게 변하는가?
• RQ5 이상도 수치 패턴을 기반으로 모델은 날카운 피크(일시적)와 큰 볼록부(지속적인 열 기울기)와 같은 다양한 이상 유형을 식별할 수 있는가?

주요 결과

• 모델은 비지도 방식으로 주입된 이상을 성공적으로 탐지하였으며, 레이저 출력 편이가 가장 높은 A1 레이어에서 AUC 0.976, A2 레이어에서 AUC 0.972를 기록하였다.
• A1 및 A2 레이어에서는 정밀도와 재현율이 90% 이상을 초과하지만, A4 및 A5 레이어에서는 레이저 출력 편이가 작아지고 열 영향도 감소함에 따라 각각 70% 미만으로 급격히 하락한다.
• A5 레이어에서는 AUC가 0.776으로 떨어지며, 특히 한 번의 스캔 라인 동안만 지속되는 저강도 이상의 경우 탐지 가능성이 감소함을 시사한다.
• 모델은 분말 베드에서 이전에 알려지지 않은 온도 균일성 부족을 식별하였으며, 특히 2°C 높은 온도와 급격한 기울기를 보이는 영역에서 두드러졌다.
• 공간 범위 설정 기법은 물리적 열 방해와 관련된 큰 이상도 수치를 효과적으로 강조하여 이상 영역의 국소화 능력을 향상시켰다.
• 비학습 기반 기준(루트 평균 제곱 온도를 이상도 수치로 사용)에 비해 인코더-디코더 접근법이 모든 이상 레이어에서 ROC 곡선이 더 뛰어나 성능이 유의미하게 뛰어나다는 것이 입증되었다.