[논문 리뷰] Spectral Analysis of High-dimensional Time Series

Mark Fiecas, Chenlei Leng외 2명|arXiv (Cornell University)|2018. 10. 26.

Complex Systems and Time Series Analysis참고 문헌 37인용 수 5

한 줄 요약

이 논문은 고차원 시간 시리즈에서 스펙트럼 밀도 행렬 추정에 대해 최초로 비점근 이론적 프레임워크를 수립하여, 스무딩된 주기도 및 희소 정밀도 행렬 추정기의 엄밀한 정당성을 보장한다. 기능적 의존성 가정 하에 고정된 표본 오차 경계를 도출하여, 고차원 주파수 도메인 추론에 대한 수렴 속도를 증명하며, 구글 플루 트렌드 데이터에 응용한다.

ABSTRACT

A useful approach for analysing multiple time series is via characterising their spectral density matrix as the frequency domain analog of the covariance matrix. When the dimension of the time series is large compared to their length, regularisation based methods can overcome the curse of dimensionality, but the existing ones lack theoretical justification. This paper develops the first non-asymptotic result for characterising the difference between the sample and population versions of the spectral density matrix, allowing one to justify a range of high-dimensional models for analysing time series. As a concrete example, we apply this result to establish the convergence of the smoothed periodogram estimators and sparse estimators of the inverse of spectral density matrices, namely precision matrices. These results, novel in the frequency domain time series analysis, are corroborated by simulations and an analysis of the Google Flu Trends data.

연구 동기 및 목표

• 고차원 주파수 도메인 시간 시리즈 분석에서의 이론적 간극을 메우기 위해, 특히 스펙트럼 밀도 행렬 추정에 초점을 맞춘다.
• 점근 근사에 의존하지 않고 고정된 표본 오차 경계를 도출하기 위해 스무딩된 주기도 추정기의 성능을 분석한다.
• 주파수 도메인에서 CLIME를 통한 희소 정밀도 행렬 추정의 이론적 정당성을 제공한다.
• 기능적 의존성 구조 하에서 고차원 스펙트럼 추정기의 수렴 속도를 수립한다.
• 시뮬레이션과 구글 플루 트렌드 데이터의 실제 분석을 통해 이론적 결과를 검증한다.

제안 방법

• Wu(2005)의 기능적 의존성 프레임워크를 활용하여 고차원 시간 시리즈를 i.i.d. 창발성 요소의 함수로 모델링한다.
• 마링갈 및 모멘트 경계를 사용하여 스무딩된 주기도 행렬에 대한 비점근 농도 부등식을 도출한다.
• 주파수 점과 행렬 원소에 대한 유니언 바운드 접근법을 사용하여 스펙트럼 추정기의 sup-노름 편차를 통제한다.
• 주파수 도메인에서 희소 역 스펙트럼 밀도 행렬을 추정하기 위해 CLIME 방법(Cai 등, 2011)을 적용한다.
• 대역폭 $ M_n $ 을 기준으로 추정된 스펙트럼 밀도 행렬의 오차 경계를 $ M_n/n $ 과 $ (n/M_n)^{1/2 + \delta} $ 의 형태로 수립한다.
• 의존성 구조를 분리하고 농도 부등식을 가능하게 하기 위해 수정된 추정기 $ \widetilde{f}_{ij,n}(\omega) $ 를 도입한다.

실험 결과

연구 질문

• RQ1 고차원 스펙트럼 밀도 행렬의 스무딩된 주기도 추정기에 대해 비점근 오차 경계를 설정할 수 있는가?
• RQ2 주파수 도메인에서 희소 정밀도 행렬 추정에 대해 어떤 이론적 보장이 가능할 수 있는가?
• RQ3 스펙트럼 추정기의 수렴 속도는 표본 크기 $ n $, 차원 $ p $, 및 대역폭 $ M_n $ 에 어떻게 의존하는가?
• RQ4 기능적 의존성 프레임워크를 사용하여 고차원 시간 시리즈에서 고정된 표본 결과를 도출할 수 있는가?
• RQ5 희소성 가정 하에서 추정된 역 스펙트럼 밀도 행렬의 수렴 속도는 얼마인가?

주요 결과

• 논문은 비점근 경계를 수립한다: $ \mathbb{P}\left(\sup_{\omega} \|\widehat{\Sigma}(\omega) - \Sigma(\omega)\|_{\infty} > C(M_n/n + (n/M_n)^{1/2 + \delta}n^{-1/2}) \right) \leq p^2 n^{-H} $, 임의의 $ \delta > 0 $, $ H > 0 $ 에 대해 유효하다.
• 스무딩된 주기도 추정기의 수렴 속도는 고확률적으로 $ O(M_n/n + (n/M_n)^{1/2 + \delta}n^{-1/2}) $ 이다.
• CLIME를 통한 희소 정밀도 행렬 추정에 있어서, 추정된 역 스펙트럼 행렬의 $ \ell_1 $-오차는 $ O(t_n^{1-q}) $ 이하로 경계된다. 여기서 $ t_n = M_{n,p} \lambda $ 이고 $ \lambda \asymp M_n/n + n^{\delta}/M_n^{1/2 + \delta} $ 이다.
• 이론적 결과는 고차원 설정 하에서 일관된 추정을 보여주는 시뮬레이션을 통해 확인된다.
• 구글 플루 트렌드 데이터에 대한 실제 데이터 분석은 본 방법이 고차원 시간 시리즈에서 의미 있는 주파수 도메인 의존성을 회복할 수 있음을 확인한다.
• 논문은 $ \mathbb{P}(\mathcal{A}_n) \to 1 $ 이라는 사실을 증명한다. 여기서 $ \mathcal{A}_n $ 은 추정된 스펙트럼 행렬이 진짜 값에서 벗어나지 않는 사건이다.