[논문 리뷰] LSTM-based Encoder-Decoder for Multi-sensor Anomaly Detection

Pankaj Malhotra, Anusha Ramakrishnan외 4명|arXiv (Cornell University)|2016. 07. 01.

Anomaly Detection Techniques and Applications참고 문헌 18인용 수 345

한 줄 요약

논문은 정상 다중 센서 시계열에서만 학습된 EncDec-AD를 제안하고 재구성 오차를 통해 이상치를 탐지합니다. 예측 가능하고 예측 불가능한 시퀀스에서도 효과적이며, 다양한 실제 데이터셋에서 로버스트한 이상 탐지를 보였습니다.

ABSTRACT

Mechanical devices such as engines, vehicles, aircrafts, etc., are typically instrumented with numerous sensors to capture the behavior and health of the machine. However, there are often external factors or variables which are not captured by sensors leading to time-series which are inherently unpredictable. For instance, manual controls and/or unmonitored environmental conditions or load may lead to inherently unpredictable time-series. Detecting anomalies in such scenarios becomes challenging using standard approaches based on mathematical models that rely on stationarity, or prediction models that utilize prediction errors to detect anomalies. We propose a Long Short Term Memory Networks based Encoder-Decoder scheme for Anomaly Detection (EncDec-AD) that learns to reconstruct 'normal' time-series behavior, and thereafter uses reconstruction error to detect anomalies. We experiment with three publicly available quasi predictable time-series datasets: power demand, space shuttle, and ECG, and two real-world engine datasets with both predictive and unpredictable behavior. We show that EncDec-AD is robust and can detect anomalies from predictable, unpredictable, periodic, aperiodic, and quasi-periodic time-series. Further, we show that EncDec-AD is able to detect anomalies from short time-series (length as small as 30) as well as long time-series (length as large as 500).

연구 동기 및 목표

• 다변량 센서 시계열에서 외부 요인으로 비정상성 및 비정상적 데이터가 나타날 때 이상 탐지의 필요성을 제시한다.
• 정상 시퀀스로 학습되어 입력을 재구성하고 재구성 오차를 통해 이상치를 탐지하는 LSTM 기반 인코더-디코더 EncDec-AD를 제안한다.
• 예측 가능하고 예측 불가능한 시계열뿐만 아니라 주기적, 비주기적, 준주기적 시계열에 걸친 강건성을 시연한다.
• 짧은 시퀀스와 긴 시퀀스 모두에서의 효율성을 보이고 예측 기반 이상 탐지 방법과의 비교를 제시한다.

제안 방법

• 타겟 시퀀스를 역순으로 재구성하여 정상 시계열을 재구성하도록 LSTM 인코더-디코더를 학습한다.
• 인코더의 최종 상태를 디코더의 초기 상태로 사용하고 디코더 위에 선형 층으로 다음 값을 예측한다.
• 재구성 오차 e(i)=|x(i)−x'(i)|를 계산하고 검증 세트에서 가우시안 분포를 사용해 이상 가능성 a(i)을 얻는다.
• 검증 데이터에서 학습된 임계값을 넘는 점수에 대해 Fβ 최적화를 사용해 윈도우를 이상으로 라벨링한다.
• 다양한 동적 특성을 가진 여러 데이터셋(power demand, space shuttle, ECG, Engine-P)에서 성능을 평가한다.
• 예측 기반의 LSTM-AD와 비교를 통해 예측이 실패하는 경우에 EncDec-AD의 강건성을 강조한다(선택적으로).

실험 결과

연구 질문

• RQ1 정상 시퀀스에서만 학습된 LSTM 인코더-디코더가 예측 불가능하고 준주기적인 데이터를 포함한 다중 센서 시계열에서 이상치를 탐지할 수 있는가?
• RQ2 재구성 기반 이상 점수는 예측 가능, 예측 불가, 주기적 패턴에서 어떻게 성능을 나타내는가?
• RQ3 다양한 데이터셋에서 EncDec-AD의 강점은 예측 기반 이상 탐지와 비교해 무엇인가?
• RQ4 이 방법으로 짧은 시퀀스(가령 30)에서도 효과적으로 이상을 분석할 수 있는가?
• RQ5 매개변수 선택(L, c, 임계값)이 데이터셋 간 탐지 성능에 어떤 영향을 미치는가?

주요 결과

데이터셋	L	c	β	P	R	Fβ-점수	TPR/FPR
Power Demand	84	40	0.1	0.92	0.04	0.77	33.0
Space Shuttle	500	50	0.05	0.83	0.08	0.81	4.9
Engine-P	30	40	0.05	0.94	0.02	0.82	13.8
Engine-NP	30	90	0.05	1.0	0.01	0.83	∞
ECG	208	45	0.05	1.0	0.005	0.65	∞

• EncDec-AD는 모든 데이터셋에서 높은 양의 가능도 비를 보이며, 이상점의 점수가 정상점보다 높다는 것을 나타낸다.
• 이 방법은 예측 가능, 예측 불가, 주기적, 비주기적, 준주기적 시계열에서 이상치를 탐지한다.
• 예측 가능한 데이터셋의 경우 예측 기반 LSTM-AD가 일부 작업에서 더 나은 성능을 보일 수 있지만, 예측 불가한 시퀀스(Engine-NP)에서 EncDec-AD가 특히 뛰어난 성능을 보인다.
• Engine-NP는 TPR/FPR이 높아 Fβ 점수 0.93으로 견고성을 나타낸다.
• Power demand, space shuttle, Engine-P는 다양한 L, c 및 임계값 설정에서 EncDec-AD로 강력한 성능을 보인다.
• ECG는 준주기적이지만 재구성 기반 접근법으로도 이상 탐지 성능이 크게 나타난다.