[논문 리뷰] Functional Time Series

Łukasz Kidziński|arXiv (Cornell University)|2015. 02. 25.

Time Series Analysis and Forecasting참고 문헌 11인용 수 4

한 줄 요약

이 논문은 힐버트 공간 이론과 주파수 도메인 방법을 사용하여 기능적 시간 시리즈 분석을 제안하며, 곡선 또는 이미지와 같은 연속적이고 고차원적인 데이터의 시간적 의존성을 모델링하기 위한 프레임워크를 제시한다. 주파수 도메인에서 스펙트럼 분석과 선형 필터링을 적용함으로써 기능적 선형 모델과 지연된 관계의 효율적 추정이 가능해지며, 시간 도메인에서의 불안정한 역행렬 연산에 대한 강력한 대안을 제공한다.

ABSTRACT

The continuous advances in data collection and storage techniques allow us to observe and record real-life processes in great detail. Examples include financial transaction data, fMRI images, satellite photos, earths pollution distribution in time etc. Due to the high dimensionality of such data, classical statistical tools become inadequate and inefficient. The need for new methods emerges and one of the most prominent techniques in this context is functional data analysis (FDA). The main objective of this article is to present techniques of the analysis of temporal dependence in FDA. Such dependence occurs, for example, if the data consist of a continuous time process which has been cut into segments, days for instance. We are then in the context of so-called functional time series.

연구 동기 및 목표

• 관측값이 시간에 따라 연속적인 곡선 또는 표면인 기능적 데이터에서 시간적 의존성을 분석하기 위한 통계적 도구를 개발하는 것.
• 무한차원 기능적 데이터에 고전적 다변량 방법을 적용할 때 발생하는 한계를 해결하기 위해 부드러움과 연속성을 활용하는 것.
• 시간 도메인에서 직접 역행렬을 구하는 것에 비해 추정의 안정성과 효율성을 향상시키는 주파수 도메인 기법을 제시하는 것.
• 예를 들어 과거의 기능적 관측치를 바탕으로 미래의 곡선을 예측하는 것과 같은 기능적 시간 시리즈에서의 지연된 관계를 실용적으로 모델링할 수 있도록 하는 것.
• 고해상도 시간적 데이터를 다루는 통계학, 신호 처리, 데이터 과학 분야의 연구자들이 이론적으로 타당하면서도 접근하기 쉬운 프레임워크를 제공하는 것.

제안 방법

• 기능적 데이터를 내적과 노름을 갖는 원소로 표현하기 위해 분리 가능한 힐버트 공간, 특히 $L_2[0,1]$를 사용하여 고전적 통계 개념의 확장을 가능하게 한다.
• 곡선를 고유함수의 선형 조합으로 표현하기 위해 기능적 주성분 분석(FPCA)을 적용하여 변동성을 유지하면서 차원을 감소시킨다.
• 시간 도메인에서의 컨볼루션을 곱셈으로 변환하기 위해 푸리에 변환을 사용하는 주파수 도메인 접근법을 제안한다.
• 스펙트럼 밀도 연산자 $\mathcal{F}^X_\theta$와 교차 스펙트럼 연산자 $\mathcal{F}^{YX}_\theta$를 정의하고, 기능적 선형 모델에서 $\mathcal{F}^{YX}_\theta = \mathcal{A}(\theta)\mathcal{F}^X_\theta$로 연결한다.
• 스펙트럼 밀도 연산자의 역행렬을 구하는 대신 스펙트럼 도메인에서 작업함으로써 불안정한 행렬 역행렬을 피하기 위해 주파수 응답 함수 $\mathcal{A}(\theta)$를 추정한다.
• 유한한 $K$에서 역연산자를 잘라내는 정규화 기법을 적용하여 고차원 기능적 추정에서 편향과 분산의 균형을 맞춘다.

실험 결과

연구 질문

• RQ1 고전적 다변량 방법이 무한차원성으로 인해 실패할 때, 기능적 시간 시리즈의 시간적 의존성을 효율적으로 모델링하는 방법은 무엇인가?
• RQ2 시간 도메인에서의 역행렬과 비교할 때, 스펙트럼 분석이 기능적 선형 필터 추정을 어떻게 단순화하는가?
• RQ3 특히 고유값이 작고 추정 오차에 민감할 경우, 스펙트럼 밀도 연산자의 역행렬을 실무적으로 어떻게 안정화할 수 있는가?
• RQ4 시간 도메인에서 직접 회귀를 수행하는 것에 비해 주파수 도메인 분석이 지연된 기능적 선형 모델의 추정에 어떤 방식으로 개선을 이끌어내는가?
• RQ5 이 프레임워크는 다수의 예측변수와 반응변수를 포함하는 다변량 기능적 시간 시리즈를 일관된 스펙트럼 표현으로 다룰 수 있도록 확장될 수 있는가?

주요 결과

• 주파수 도메인 접근법은 애매한 역행렬 문제를 곱셈 연산으로 변환함으로써 기능적 선형 모델의 안정적 추정을 가능하게 하며, 스펙트럼 밀도 연산자의 직접 역행렬을 피한다.
• 스펙트럼 표현 $\mathcal{F}^{YX}_\theta = \mathcal{A}(\theta)\mathcal{F}^X_\theta$는 주파수 응답 함수 $\mathcal{A}(\theta)$에 대한 닫힌 형태의 해를 제공하며, 이를 역행렬하여 시간 도메인 필터 계수를 복원할 수 있다.
• 유한차원 잘라내기 $\sum_{k \leq K} \lambda_k^{-1} e_k \otimes e_k$를 통한 정규화는 작은 고유값으로 인한 불안정성을 완화하며, 전체 역행렬 추정의 실용적 대안을 제공한다.
• 지연된 기능적 모델 $Y_t = \sum_{k=0}^m A_k(X_{t-k}) + \varepsilon_t$는 힐베르트 공간 $L_2^m$에서 재정의할 수 있으며, 이로써 단변량 경우와 동일한 스펙트럼 추정 기법을 적용할 수 있다.
• 시간 도메인 추정에 비해 수치적 안정성 면에서 뛰어나며, 지연 수 $m$이 중간 정도이고 기능적 데이터가 부드럽다면 특히 성능이 뛰어나다.
• 이론적 결과는 주파수 도메인 접근법이 시간 도메인 방법과 동일하지만, 계산적으로 더 효율적이고 고차원 기능적 환경에서 노이즈에 덜 민감하다는 것을 보여준다.