[논문 리뷰] Graph Neural Network-Based Anomaly Detection in Multivariate Time Series

Ailin Deng, Bryan Hooi|arXiv (Cornell University)|2021. 06. 13.

Anomaly Detection Techniques and Applications인용 수 12

한 줄 요약

이 논문은 주의 기반 그래프 신경망(GNN)을 통해 종속성을 모델링함으로써 다변량 시계열에서 센서 관계를 동시에 학습하고 이상치를 탐지하는 새로운 그래프 신경망 접근법인 그래프 이탈 네트워크(GDN)를 제안한다. GDN은 이상 탐지 정확도에서 베이스라인을 능가하며, 학습된 센서 임베딩, 그래프 구조 및 주의 가중치를 통해 해석 가능한 설명을 제공하여 실세계 센서 데이터셋에서 원인 분석을 가능하게 한다.

ABSTRACT

Given high-dimensional time series data (e.g., sensor data), how can we detect anomalous events, such as system faults and attacks? More challengingly, how can we do this in a way that captures complex inter-sensor relationships, and detects and explains anomalies which deviate from these relationships? Recently, deep learning approaches have enabled improvements in anomaly detection in high-dimensional datasets; however, existing methods do not explicitly learn the structure of existing relationships between variables, or use them to predict the expected behavior of time series. Our approach combines a structure learning approach with graph neural networks, additionally using attention weights to provide explainability for the detected anomalies. Experiments on two real-world sensor datasets with ground truth anomalies show that our method detects anomalies more accurately than baseline approaches, accurately captures correlations between sensors, and allows users to deduce the root cause of a detected anomaly.

연구 동기 및 목표

• 복잡하고 비선형적인 센서 관계가 정확한 탐지에 핵심적인 고차원 다변량 시계열에서 이상 탐지의 과제를 해결하기 위해.
• 입력으로 주어진 그래프 구조를 가정하지 않고, 센서 관계의 잠재적 그래프 구조를 데이터로부터 동적으로 학습하기 위해.
• 센서 간 상호의존성을 기반으로 예상되는 센서 행동을 모델링하여 정상 패턴에서의 이탈을 탐지함으로써 이상 탐지 성능을 향상시키기 위해.
• 센서 임베딩, 주의 가중치 및 예측된 행동과 관측된 행동 간 비교를 통해 이상 탐지 결과에 대한 해석 가능한 설명을 제공하기 위해.
• 학습된 그래프에서 이격된 센서와 그들의 가장 영향력 있는 이웃을 식별하여 이상의 근본 원인을 국소화하기 위해.

제안 방법

• 각 센서의 고유한 특성을 포괄할 수 있도록 센서 임베딩을 사용하여 다양한 센서 유형에 대한 민첩한 표현을 가능하게 한다.
• 데이터로부터 센서 간 관계를 추론함으로써 상호의존성의 동적 그래프를 형성하는 그래프 구조 학습 모듈을 활용한다.
• 학습된 그래프 내 이웃 센서의 가중치 기반 기여도를 바탕으로 센서 값을 예측하는 주의 기반 예측 기반 메커니즘을 적용한다.
• 예측된 값과 실제 값 간의 이질성을 측정하여 그래프 이탈 점수를 계산함으로써 이상을 식별한다.
• 주의 가중치를 활용하여 핵심 관계를 강조하고 이상 탐지 설명의 해석 가능성을 향상시킨다.
• 센서 임베딩의 t-SNE 시각화와 주의 가중치가 반영된 그래프의 힘 기반 레이아웃을 통해 해석 가능성 지원.

실험 결과

연구 질문

• RQ1 기존의 그래프 구조 없이 GNN 기반 접근법이 다변량 시계열 데이터에서 의미 있는 센서 관계를 학습할 수 있는가?
• RQ2 실세계 센서 데이터셋에서 기존의 베이스라인 대비 제안된 방법의 이상 탐지 정확도는 어느 정도인가?
• RQ3 센서 임베딩, 그래프 구조 및 주의 가중치를 통해 모델이 이상을 어느 정도 해석 가능한 설명을 제공할 수 있는가?
• RQ4 학습된 그래프에서 가장 이격된 센서와 그 영향력 있는 이웃을 식별함으로써 이상의 근본 원인을 국소화할 수 있는가?
• RQ5 기존 방법으로는 탐지하기 어려운, 정상 범위 내에서의 잘못된 독서와 같은 미세한 이상을 모델은 얼마나 효과적으로 탐지할 수 있는가?

주요 결과

• GDN은 실제 수처리 공장 데이터셋 2개에서 지표 이상이 있는 경우에 기존의 베이스라인 방법보다 높은 이상 탐지 정확도를 달성했다.
• 센서 임베딩 공간에서 국소화된 클러스터링을 통해 모델이 복잡하고 비선형적인 상관관계를 효과적으로 포착했다.
• 학습된 그래프에서 주의 가중치는 흐름 센서와 밸브 상태 센서 간의 상관관계와 같은 의미 있는 센서 관계를 강조하여 이상 국소화에 기여했다.
• 사례 연구에서 GDN은 공격 기간 동안 1_MV_001_STATUS 센서를 가장 이격된 센서로 정확히 식별했으며, 손상된 1_FIT_001_PV 흐름 센서를 향한 높은 주의 가중치를 보였다.
• 예측된 값과 실제 값 간의 비교에서 공격 기간 동안 큰 이질성이 드러나, 이상 탐지 메커니즘이 정상적으로 작동함을 확인했다.
• 시각화된 임베딩과 주의 가중치가 반영된 그래프를 포함한 모델의 해석 가능성 기능은 사용자가 이상의 근본 원인을 효과적으로 추론하는 데 기여했다.