[논문 리뷰] Hankel-structured Tensor Robust PCA for Multivariate Traffic Time Series Anomaly Detection

Xudong Wang, Luis Miranda-Moreno외 1명|arXiv (Cornell University)|2021. 10. 08.

Blind Source Separation Techniques참고 문헌 27인용 수 8

한 줄 요약

이 논문은 시간적 힐버트화를 적용하여 국소적 및 전역적 시공간 상관관계를 포착함으로써 다변량 교통 시간 시리즈 이상 탐지 성능을 향상시키는 새로운 텐서 기반 RPCA 방법인 힐버트 구조 텐서 강건 PCA(HT-RPCA)를 제안한다. 낮은 질서 행렬을 제3차 힐버트 텐서로 변환하고, ADMM를 통해 텐서 핵 노름(TNN)과 l1-노름 최소화를 이용함으로써 기존의 RPCA 및 RPCA-TV 모델에 비해 더 낮은 오류 경고 수로 뛰어난 이상 탐지 정확도를 달성한다.

ABSTRACT

Spatiotemporal traffic data (e.g., link speed/flow) collected from sensor networks can be organized as multivariate time series with additional spatial attributes. A crucial task in analyzing such data is to identify and detect anomalous observations and events from the data with complex spatial and temporal dependencies. Robust Principal Component Analysis (RPCA) is a widely used tool for anomaly detection. However, the traditional RPCA purely relies on the global low-rank assumption while ignoring the local temporal correlations. In light of this, this study proposes a Hankel-structured tensor version of RPCA for anomaly detection in spatiotemporal data. We treat the raw data with anomalies as a multivariate time series matrix (location $ imes$ time) and assume the denoised matrix has a low-rank structure. Then we transform the low-rank matrix to a third-order tensor by applying temporal Hankelization. In the end, we decompose the corrupted matrix into a low-rank Hankel tensor and a sparse matrix. With the Hankelization operation, the model can simultaneously capture the global and local spatiotemporal correlations and exhibit more robust performance. We formulate the problem as an optimization problem and use tensor nuclear norm (TNN) to approximate the tensor rank and $l_1$ norm to approximate the sparsity. We develop an efficient solution algorithm based on the Alternating Direction Method of Multipliers (ADMM). Despite having three hyper-parameters, the model is easy to set in practice. We evaluate the proposed method by synthetic data and metro passenger flow time series and the results demonstrate the accuracy of anomaly detection.

연구 동기 및 목표

• 기존 RPCA가 다변량 교통 시간 시리즈의 국소적 시간적 상관관계를 포착하는 데 한계가 있음을 해결하기 위해.
• 전역적 낮은 질서 구조와 국소적 시간적 의존성을 통합함으로써 이상 탐지에 대한 강건성을 향상시키기 위해.
• 시간 지연 구조를 시공간 데이터에 통합하기 위해 힐버트화를 활용하는 텐서 기반 프레임워크를 개발하기 위해.
• 최소한의 하이퍼파rameter 조정으로 효율적이고 확장 가능한 최적화를 위한 ADMM를 활용한 솔루션 제공하기 위해.
• 광저우(중국)의 실질적 지하철 승객 유동 데이터에서 합성 데이터와 함께 방법을 검증하기 위해.

제안 방법

• 시간적 힐버트화를 통해 원시 다변량 교통 행렬(N개의 위치 × T개의 시간 단위)을 힐버트 텐서로 변환하여 시간적 상관관계 모델링을 향상시키는 제3차 텐서를 생성한다.
• 이상 탐지 문제를 텐서 최적화 문제로 공식화하여, 낮은 질서 구조를 위한 텐서 핵 노름(TNN)과 잔차 행렬의 희박성에 대한 l1-노름의 가중합을 최소화한다.
• 비볼록 최적화 문제를 효율적으로 해결하기 위해 교차 최적화 방법(ADMM)을 사용하며, 낮은 질서 텐서와 희박 행렬 성분 간의 교대 업데이트를 수행한다.
• 결측치가 있는 데이터를 처리하기 위해 프레임워크를 강건한 텐서 완성으로 확장한 수정된 버전인 HT-RMC를 적용한다.
• 텐서에서 원래 행렬로 복원하기 위해 힐버트화 연산자 Hτ 및 그 역연산자 Hτ⁻¹를 통합하여 시간 연속성을 유지한다.
• 텐서 질서의 볼록 근사로 TNN를 사용하고, 희박성의 근사로 l1-노름을 사용함으로써 낮은 질서 및 희박성 가정 하에 최적화를 실현 가능하게 한다.

실험 결과

연구 질문

• RQ1 힐버트 구조 텐서 RPCA는 교통 시간 시리즈의 전역적 및 국소적 시공간 상관관계를 포착함으로써 이상 탐지 성능을 향상시킬 수 있는가?
• RQ2 실제 지하철 승객 유동 데이터에서 제안된 HT-RPCA 모델은 기존의 RPCA 및 총변동성(RPCA-TV)과 비교해 어떻게 다를까?
• RQ3 힐버트화 과정은 다변량 교통 데이터에서 주기적 및 일시적 이상을 탐지하는 데 모델의 능력을 얼마나 향상시키는가?
• RQ4 HT-RPCA 모델은 노이즈와 결측치에 얼마나 강건한가? 그리고 최소한의 하이퍼파rameter 조정으로도 높은 탐지 정확도를 유지할 수 있는가?
• RQ5 모델은 메트로 네트워크 전역에서 이상 전파 패턴을 효과적으로 드러내어 잠재적 인과관계나 연쇄적 영향을 나타낼 수 있는가?

주요 결과

• 제안된 HT-RPCA 모델은 실질적 지하철 승객 유동 데이터에서 거의 모든 이상을 탐지하며, 신호 강도가 낮아서 유일하게 놓친 이상은 7월 26일 23:45경 4명의 승객이 관측된 미미한 이상 뿐이었다.
• RPCA 및 RPCA-TV에 비해 HT-RPCA는 더 매끄럽고 안정적인 이상 프로파일을 생성하여 더 적은 가짜 경고와 향상된 강건성을 나타낸다.
• 모델은 여객 유동에서 주기적인 일일 패턴을 성공적으로 포착하고, 이러한 패턴에서 크게 벗어나는 이상을 탐지한다.
• 이상 전파 분석 결과, JNX 및 XMK 역에서 시작된 연쇄적 영향이 관측되었으며, 상류 역은 조기에 증가하고 하류 역은 지연된 이상을 보여, 실제 장애 동역학과 일치하는 경향을 보였다.
• HT-RPCA 모델은 합성 데이터와 실질적 광저우 지하철 데이터 양쪽에서 기준 RPCA 및 RPCA-TV보다 뛰어난 성능을 보였으며, 탐지 정확도와 안정성 측면에서 슈퍼리어한 성능을 보였다.
• 모델는 하이퍼파rameter 변화에 강건하며, 하이퍼파rameter가 단지 세 개인데다 조정이 최소한이므로 실생활 구현에 실용적이다.