[논문 리뷰] Two-Sample Testing for Event Impacts in Time Series

Erik Scharwächter, Emmanuel Müller|arXiv (Cornell University)|2020. 01. 31.

Time Series Analysis and Forecasting인용 수 4

한 줄 요약

이 논문은 특정 탐지 모델을 가정하지 않고 시간 시리즈와 사고 발생 간의 공유 통계 정보를 탐지하기 위한 비모수적 이중표본 검정 프레임워크인 EITEST를 제안한다. Kolmogorov-Smirnov 또는 MMD 통계량을 사용한 다중 이중표본 검정을 통해 사고 발생 후 증가하는 지연 간격에서 시간 시리즈 값의 분포 차이를 검정함으로써, EITEST는 단변량, 다변량, 비수치 영역에서 정보가 풍부한 시간 시리즈를 식별한다. 시뮬레이션 및 소셜 미디어 및 스마트 홈 데이터와 같은 실제 응용 사례에서 기존 방법과 비교해 뛰어난 성능 또는 동등한 성능을 보였다.

ABSTRACT

In many application domains, time series are monitored to detect extreme events like technical faults, natural disasters, or disease outbreaks. Unfortunately, it is often non-trivial to select both a time series that is informative about events and a powerful detection algorithm: detection may fail because the detection algorithm is not suitable, or because there is no shared information between the time series and the events of interest. In this work, we thus propose a non-parametric statistical test for shared information between a time series and a series of observed events. Our test allows identifying time series that carry information on event occurrences without committing to a specific event detection methodology. In a nutshell, we test for divergences of the value distributions of the time series at increasing lags after event occurrences with a multiple two-sample testing approach. In contrast to related tests, our approach is applicable for time series over arbitrary domains, including multivariate numeric, strings or graphs. We perform a large-scale simulation study to show that it outperforms or is on par with related tests on our task for univariate time series. We also demonstrate the real-world applicability of our approach on datasets from social media and smart home environments.

연구 동기 및 목표

• 특정 사고 탐지 알고리즘에 의존하지 않고 시간 시리즈가 외부 사고에 대한 정보를 담고 있는지 여부를 판단하기 위한 일반적인 목적의 통계 검정을 개발하는 것.
• 평균, 분산 또는 꼬리 행동의 변화와 같이 관계가 복잡하거나 미묘한 경우 시간 시리즈가 정보를 담고 있는지 식별하는 과제를 해결하는 것.
• 시각적 점검이 불가능한 다변량 수치, 문자열, 그래프 시간 시리즈를 포함한 다양한 데이터 영역에서 사고 영향을 탐지할 수 있도록 하는 것.
• 기존 독립성 검정의 한계를 극복하고 장시간 시리즈에 대해 계산 효율성이 높은 방법을 제공하는 것.

제안 방법

• 시간 시리즈와 사고 간의 공유 정보 탐지 문제를 사고 발생 후 다양한 지연 간격에서 시간 시리즈 값의 분포 차이를 비교하는 다중 이중표본 검정의 연속으로 환원한다.
• 각 지연 간격 k ∈ {1, ..., K}에 대해, E_{t−k} = 1인 조건에서 X_t의 분포가 E_{t−k} = 0인 조건과 다름을 비모수적 이중표본 검정을 통해 검정한다.
• 두 가지 변형을 제안한다: Kolmogorov-Smirnov 통계량을 사용하는 EITEST-KS와 커널 방법을 통해 임의의 영역을 지원하는 최대 평균 차이(MMD) 통계량을 사용하는 EITEST-MMD.
• 다중 지연 간격에 걸친 가족별 유의수준을 닫힌 검정 절차를 통해 통제함으로써 다중 비교 상황에서 통계적 타당성을 확보한다.
• 시간 시리즈 길이 T에 대해 선형이므로, 다른 검정이 계산 비용으로 인해 실패하는 장시간 시퀀스에 대해서도 확장 가능한 성능을 제공한다.
• 사고 탐지 알고리즘에 종속되지 않으며, 오직 사고와 통계적으로 연관된 시간 시리즈를 식별하는 데 집중한다.

실험 결과

연구 질문

• RQ1 비모수적 이중표본 검정 프레임워크는 특정 탐지 모델을 가정하지 않고 시간 시리즈와 사고 발생 간의 미묘한 통계적 연관성을 탐지할 수 있는가?
• RQ2 제안된 방법은 시간 시리즈 행동 유형에 관계없이 기존의 인과 추론 및 독립성 검정 방법과 비교해 사고 영향을 얼마나 잘 탐지하는가?
• RQ3 이 방법은 문자열이나 그래프와 같은 비수치 시간 시리즈의 사고 영향을 탐지할 수 있으며, 이러한 경우 커널 선택에 어떤 조건이 필요한가?
• RQ4 장시간 시리즈에 대해 이 방법은 어떻게 확장되며, 통계적 검정력과 계산 가능성을 유지하는가?

주요 결과

• EITEST-KS와 EITEST-MMD는 독일 티커 트위터 활동과 세계의 지진 간의 독립성 귀무가설을 모두 p < .0001로 기각하여 강한 통계적 연관성을 확인한다.
• 중국 지진의 경우 EITEST-KS와 EITEST-MMD는 독립성을 기각하지 않으며(p = .4090 및 p = .4225), 독일에서의 공공 인식이 제한적임을 시사한다.
• GC-VAR는 중국 지진과의 연관성을 탐지(p = .0090)하지만, EITEST 결과와 모순되며 이 방법이 잠재적인 거짓 양성 결과를 유발할 수 있음을 나타낸다.
• TE-KSG는 실행 간에 일관되지 않은 p-값을 보이며, 두 작업 모두에서 신뢰할 수 없는 성능을 보였다.
• 시뮬레이션 결과, EITEST는 평균 이동, 분산 변화, 꼬리 두꺼움의 세 가지 유형의 사고 영향을 탐지하는 데 기존 방법보다 우수하거나 동등한 성능을 보였다.
• 이 방법은 시간 시리즈 길이 T에 대해 선형이므로, 다른 검정이 계산적으로 비가능해지는 장시간 시퀀스에 대해서도 효율적으로 적용 가능하다.