[논문 리뷰] Entropy Causal Graphs for Multivariate Time Series Anomaly Detection

Falih Gozi Febrinanto, Kristen Moore외 5명|arXiv (Cornell University)|2023. 12. 15.

Anomaly Detection Techniques and Applications인용 수 5

한 줄 요약

이 논문은 전이 엔트로피를 사용하여 상관관계가 있는 인과 그래프를 구성하고, 인과 컨volution을 갖춘 그래프 컨volution 네트워크를 적용하여 시간 동적성을 포착하고 중앙편차 기반 정규화 점수를 통해 이상 탐지를 수행하는 새로운 다변량 시계열 이상 탐지 프레임워크인 CGAD를 제안한다. CGAD는 실세계 데이터셋에서 세 가지 평가 지표에 걸쳐 최신 기술 대비 평균 15% 향상을 달성한다.

ABSTRACT

Many multivariate time series anomaly detection frameworks have been proposed and widely applied. However, most of these frameworks do not consider intrinsic relationships between variables in multivariate time series data, thus ignoring the causal relationship among variables and degrading anomaly detection performance. This work proposes a novel framework called CGAD, an entropy Causal Graph for multivariate time series Anomaly Detection. CGAD utilizes transfer entropy to construct graph structures that unveil the underlying causal relationships among time series data. Weighted graph convolutional networks combined with causal convolutions are employed to model both the causal graph structures and the temporal patterns within multivariate time series data. Furthermore, CGAD applies anomaly scoring, leveraging median absolute deviation-based normalization to improve the robustness of the anomaly identification process. Extensive experiments demonstrate that CGAD outperforms state-of-the-art methods on real-world datasets with a 9% average improvement in terms of three different multivariate time series anomaly detection metrics.

연구 동기 및 목표

• 기존의 다변량 시계열 이상 탐지 방법들이 상관변수 간 인과 관계를 忽시하는 한계를 해결하고자 한다. 이는 탐지 성능 저하를 초래한다.
• 정보이론적 측정을 통해 시간 시계열 변수 간의 인과적 의존성을 명시적으로 모델링하는 프레임워크를 개발하고자 한다.
• 인과 그래프 구조를 시간 모델링 및 중앙편차 기반 점수와 통합하여 이상 탐지의 강건성과 해석 가능성 향상을 도모하고자 한다.
• 다양한 평가 지표를 사용하여 실세계 다변량 시계열 데이터셋에서 최신 기술 대비 성능을 뛰어넘고자 한다.

제안 방법

• 전이 엔트로피를 사용하여 시간 시계열 변수 간의 인과 관계를 추론하고 방향성 정보 흐름을 정량화함으로써 인과 그래프를 구축한다.
• 학습된 인과 그래프의 구조적 의존성을 모델링하기 위해 가중치가 부여된 그래프 컨volution 네트워크(GCN)를 활용한다.
• 장거리 시간적 의존성과 다변량 시계열의 순차적 패턴을 포착하기 위해 인과 컨볼루션을 통합한다.
• 예측값과 실제값 간의 재구성 오차를 이상 점수로 삼는 예측 기반 이상 탐지 전략을 적용한다.
• 이상 점수를 중앙편차(MAD)로 정규화하여 이상치 및 분포 이탈에 대한 민감도를 낮추고 강건성을 향상시킨다.
• 각 타임스탬프에서 모든 센서의 노드 수준 이상 점수 중 최댓값을 취하여 집합적 시스템 수준 점수로 통합한다.

Figure 1. An illustration of the proposed framework. The CGAD process begins with causal graph generation based on transfer entropy (Schreiber, 2000 ) to establish causal relationships in multivariate time series data. Weighted GNN forecasting is then performed for single-step forecasting, followed

실험 결과

연구 질문

• RQ1 기존의 인과 관계를 忽시하는 방법들과 비교해 전이 엔트로피 기반 인과 그래프 구축이 다변량 시계열 이상 탐지 성능 향상에 기여하는가?
• RQ2 인과 컨볼루션을 갖춘 그래프 신경망이 다변량 시계열의 구조적 및 시간적 의존성을 이상 탐지에 효과적으로 모델링할 수 있는가?
• RQ3 MAD 기반 정규화가 실세계의 노이즈가 많은 데이터셋에서 이상 점수의 강건성에 어느 정도 기여하는가?
• RQ4 다양한 평가 지표(점별, 복합, 점 조정 F1 점수 포함)에서 CGAD는 최신 기술 대비 어떤 성능을 보이는가?

주요 결과

• CGAD는 실세계 다변량 시계열 데이터셋에서 F1, F1c, F1PA 세 가지 평가 지표에 걸쳐 최신 기술 대비 평균 15% 향상된 이상 탐지 성능을 달성한다.
• 전이 엔트로피를 활용한 인과 그래프 구축은 히وري스틱 또는 학습된 그래프 구조보다 더 높은 해석 가능성과 더 정확한 상관변수 간 의존성 모델링을 가능하게 한다.
• 알려진 이상 사건 발생 시 노드 수준 이상 점수가 급격히 상승하여 시스템 내 고장 난 센서나 변수의 정확한 국소화가 가능하다.
• 각 타임스탬프에서 노드 수준 점수의 최댓값으로 유도된 집합적 이상 점수는 이상 발생 시 효과적으로 경고를 발생시키며, 실제 이상 윈도우(예: SMD 데이터셋의 15900–16400 및 17000–17500)와 명확한 일치를 보인다.
• MAD 정규화 점수 메커니즘이 실세계 데이터의 이상치 및 분포 이탈에 대한 민감도를 낮추어 강건성을 향상시킨다.

Figure 2. Temporal convolution and dilated inception layer.