[논문 리뷰] Low Latency Anomaly Detection and Bayesian Network Prediction of Anomaly Likelihood

Derek Farren, Thai Pham외 1명|arXiv (Cornell University)|2016. 11. 11.

Anomaly Detection Techniques and Applications참고 문헌 6인용 수 4

한 줄 요약

이 논문은 정규화된 자기회귀 분포 지연 모델을 사용하여 저지연 이면 감지 시스템을 제안하며, 베이지안 네트워크를 추가로 적용하여 실시간으로 이상 가능성 예측을 수행한다. 잔차 오차를 향후 이상의 예측자로 모델링함으로써 선형 가우시안 조건부 확률을 사용하여 4개의 시계열 테스트 세트에서 F₁ 스코어 0.78를 달성한다.

ABSTRACT

We develop a supervised machine learning model that detects anomalies in systems in real time. Our model processes unbounded streams of data into time series which then form the basis of a low-latency anomaly detection model. Moreover, we extend our preliminary goal of just anomaly detection to simultaneous anomaly prediction. We approach this very challenging problem by developing a Bayesian Network framework that captures the information about the parameters of the lagged regressors calibrated in the first part of our approach and use this structure to learn local conditional probability distributions.

연구 동기 및 목표

• 고속의 비정상 시계열 스트림에 대해 실시간, 저지연 이상 감지 시스템을 개발한다.
• 시간적 의존성을 시간 시계열 간 모델링하여 이상 감지 기능을 예측적 이상 예측으로 확장한다.
• 구조에 대한 사전 가정 없이 잠재적인 시계열 간 상관관계를 포착한다.
• 지연된 예측 변수 계수를 바탕으로 향후 이상 발생 가능성을 추정하기 위한 확장 가능한 베이지안 네트워크 프레임워크를 구축한다.
• 이해 가능성과 분류를 넘어서 추론을 지원하기 위해 이상 과정의 생성 모델링을 가능하게 한다.

제안 방법

• 슬라이딩 윈도우 내의 모든 시계열에서의 이전 모든 값을 사용하여 현재 값을 예측하기 위해 L1-정규화된 자기회귀 분포 지연 모델을 적용한다.
• 최소 제곱법을 사용하여 모델 계수를 추정하고 예측 잔차를 계산하며, 이는 (0,1) 범위로 정규화되어 확률적 해석이 가능하도록 한다.
• 베이지안 네트워크를 구성하여 시계열의 이상 확률을 잔차 오차와 지연된 예측 변수 계수의 로지스틱 함수로 모델링한다.
• 잔차와 예측 변수 간의 관계를 선형 가우시안 모델로 최소 제곱법으로 피팅하여 조건부 확률 분포를 학습한다.
• 이상 발생을 이진 변수로 정의하며, P(A_i=1 | ε̂) = min(1, α·ε̂)로 설정한다. 여기서 α는 교차 검증을 통해 F₁ 스코어를 최대화하도록 튜닝된다.
• 복잡한 사전 분포 설정을 피하기 위해 조건부 분포를 사후 분포로 간주함으로써 추론을 단순화한다.

실험 결과

연구 질문

• RQ1 무한한 시계열 스트림에 대해 정규화된 자기회귀 모델을 사용하여 저지연 실시간 이상 감지 시스템을 구축할 수 있는가?
• RQ2 비정상 시계열 간의 잠재적 의존성을 효과적으로 포착할 수 있는 정도는 어느 정도인가?
• RQ3 지연된 회귀 모델의 계수를 사용하여 베이지안 네트워크가 향후 이상 발생 가능성을 얼마나 잘 모델링할 수 있는가?
• RQ4 생성 모델을 사용한 이상 예측에서 예측 성능와 모델의 해석 가능성 사이의 상호 상충 관계는 어떠한가?
• RQ5 감지 모델의 잔차 오차를 신뢰성 있게 확률적 이상 예측으로 변환할 수 있는가?

주요 결과

• 제안된 이상 감지 모델은 고차원 시계열 데이터에 대해 슬라이딩 윈도우와 L1-정규화된 회귀를 사용함으로써 실시간 성능를 달성한다.
• 베이지안 네트워크 프레임워크는 지연된 회귀 계수를 사용하여 이상 발생 가능성을 성공적으로 모델링하여 감지 기능을 넘어서 예측 기능을 가능하게 한다.
• 축소된 4개의 시계열 데이터셋(h=43,200, w=7,200, n=4)에서 하이퍼파rameter 튜닝 후 F₁ 스코어 0.78를 달성하였다. α=5/6로 설정되었다.
• 생성 모델의 근사화와 단순화로 인해, DPCA와 같은 판별 기반 기준 모델보다 성능가 낮다. 이는 예상되는 결과이다.
• 감지 모델의 잔차는 정규화되어 로지스틱 회귀 유사 모델의 입력으로 사용되어 이상 확률을 추정한다.
• 이러한 접근은 이상의 생성 과정을 명시적으로 모델링함으로써 이해 가능성을 제공하며, 데이터 생성 메커니즘에 대한 향후 추론 질의를 지원한다.