[논문 리뷰] Online Time Series Anomaly Detection with State Space Gaussian Processes

Christian Bock, François-Xavier Aubet외 4명|arXiv (Cornell University)|2022. 01. 18.

Anomaly Detection Techniques and Applications인용 수 6

한 줄 요약

이 논문은 정규화된 요인 할당 제약 조건을 갖춘 상태공간 가우시안 프로세스를 사용하여 단변량 및 다변량 시계열에 대해 효율적이고 해석 가능한 온라인 이상 탐지 방법인 r-ssGPFA를 제안한다. 최소한의 파라미터(236개)와 초저속 추론 시간(1점당 0.78ms)으로도 경쟁력 있는 F1 스코어(예: SMD에서 73.15)를 달성하며, 딥러닝 기반 기준 모델보다 빠른 속도와 뛰어난 내성성을 확보하면서도 이상 탐지 결과를 잠재적 구성요소에 할당할 수 있다.

ABSTRACT

We propose r-ssGPFA, an unsupervised online anomaly detection model for uni- and multivariate time series building on the efficient state space formulation of Gaussian processes. For high-dimensional time series, we propose an extension of Gaussian process factor analysis to identify the common latent processes of the time series, allowing us to detect anomalies efficiently in an interpretable manner. We gain explainability while speeding up computations by imposing an orthogonality constraint on the mapping from the latent to the observed. Our model's robustness is improved by using a simple heuristic to skip Kalman updates when encountering anomalous observations. We investigate the behaviour of our model on synthetic data and show on standard benchmark datasets that our method is competitive with state-of-the-art methods while being computationally cheaper.

연구 동기 및 목표

• 고차원 데이터로 확장 가능한 계산 효율성과 비지도 온라인 시계열 이상 탐지 방법을 개발하는 것.
• 제약 조건이 부여된 요인 분석을 통해 잠재적 구성요소를 통한 이상 탐지로 다변량 이상 탐지의 해석 가능성을 향상시키는 것.
• 이상 관측치에 대한 저항성을 향상시키기 위해 칼만 필터 히우리스틱을 활용해 이상 탐지 시 업데이트를 건너뛰는 방법을 도입하는 것.
• 최소한의 모델 파라미터와 낮은 추론 지연 시간을 확보하여 엣지 배포에 적합한 경쟁력 있는 탐지 성능을 달성하는 것.
• 특정 잠재적 과정이나 노이즈 구성요소에 이상을 할당함으로써 설명 가능성(해석 가능성)을 제공하는 것.

제안 방법

• 비용이 많이 드는 커널 행렬 역행렬 계산을 피하기 위해 선형 시간 추론이 가능한 상태공간 가우시안 프로세스(ssGP) 설정을 사용한다.
• 잠재적 과정의 선형 조합으로 관측된 시계열을 모델링하기 위해 GPFA를 상태공간 프레임워크로 확장한다.
• 잠재적 과정들을 분리하기 위해 요인 할당 행렬에 정규화 제약 조건을 도입함으로써 해석 가능성과 계산 효율성을 향상시킨다.
• 이상으로 간주되는 관측치가 있을 경우 업데이트를 건너뛰는 강건한 칼만 필터 히우리스틱을 적용하여 모델의 이탈을 줄이고 안정성을 향상시킨다.
• 복잡한 시간적 동역학과 주기성을 포착하기 위해 상태공간 표현에서 표준 GP 커널(예: Matérn, Cosine)을 사용한다.
• 예측 로그우도에서 유도된 이상 스코어를 사용하며, 로그우도가 임계값 이하로 떨어지면 이상으로 간주한다.

실험 결과

연구 질문

• RQ1 상태공간 GP 설정이 다변량 시계열 이상 탐지에 대해 효율적이고 선형 시간 추론을 가능하게 할 수 있는가?
• RQ2 요인 할당 행렬에 정규화 제약 조건을 도입할 경우 해석 가능성과 계산 속도에 어떤 영향을 미치는가?
• RQ3 이상 점에서 칼만 업데이트를 건너뛰는 단순한 히우리스틱이 탐지 성능을 희생시키지 않고 내성성을 향상시킬 수 있는가?
• RQ4 F1 스코어, 추론 속도, 파라미터 효율성 측면에서 딥러닝 기반 및 히우리스틱 기반 이상 탐지 모델과 비교해 본 결과, 본 방법의 성능은 어떠한가?
• RQ5 이상이 특정 잠재적 과정이나 노이즈 과정에 의미 있게 할당될 수 있는 정도는 어느 정도인가?

주요 결과

• SMD 벤치마크에서 r-ssGPFA는 단지 236개의 파라미터와 1점당 0.78ms의 추론 시간으로 F1 스코어 73.15를 기록했으며, 속도 면에서 RRCF를 초월하고 파라미터 효율성 면에서 DAGMM을 앞섰다.
• MSL 데이터셋에서 r-ssGPFA는 F1 스코어 94.03을 기록하여 높은 정밀도와 재현율을 확보하며 복잡한 다변량 시계열에서 뛰어난 성능을 보였다.
• 단변량 NAB 벤치마크에서 비강건한 ssGP 버전은 F1 스코어 90.18을 기록했으며, RRCF(82.93)를 능가했고, 더 단순한 아키텍처임에도 불구하고 강력한 일반화 성능을 보였다.
• NAB에서 강건한 버전(r-ssGPFA)은 성능 저하를 보였으며, 이는 정상 점이 이상으로 레이블링된 '이상 윈도우' 존재로 인해 F1 계산에 영향을 미쳤기 때문으로 저자들이 기인한다.
• r-ssGPFA는 9개 시계열 중 7개에서 SGP-Q를 능가했으며, 중앙값 F1 향상률은 3.60로, 더 단순한 설계에도 불구하고 효과성을 입증했다.
• 모든 평가된 모델 중에서 가장 빠른 추론 시간(1점당 0.78ms)을 기록하여 실시간 및 엣지 배포에 적합함을 입증했다.