[논문 리뷰] Prediction of functional ARMA processes with an application to traffic data

Johannes Klepsch, Claudia Klüppelberg외 1명|arXiv (Cornell University)|2016. 03. 07.

Fault Detection and Control Systems참고 문헌 21인용 수 15

한 줄 요약

이 논문은 기능적 ARMA(p,q) 과정에 대한 계산적으로 실현 가능한 예측 방법을 제안한다. 기능적 주성분 분석(FPCA)을 통해 기능 데이터를 유한차원 부분공간으로 투영함으로써, 예측에 벡터 ARMA 모델을 사용할 수 있도록 한다. 주요 기여는 기능적 최적 선형 예측자와 벡터 모델 예측자 간의 차이가 주성분 수가 증가함에 따라 점점 줄어든다는 이론적 경계를 제시한 것이다. 이는 실제 고속도로 교통 속도 데이터를 대상으로 한 예측 정확도가 뛰어나다는 것으로 검증되었으며, d=4 성분을 가진 벡터 MA(1) 모델을 사용하였다.

ABSTRACT

This work is devoted to functional ARMA$(p, q)$ processes and approximating vector models based on functional PCA in the context of prediction. After deriving sufficient conditions for the existence of a stationary solution to both the functional and the vector model equations, the structure of the approximating vector model is investigated. The stationary vector process is used to predict the functional process. A bound for the difference between vector and functional best linear predictor is derived. The paper concludes by applying functional ARMA processes for the modeling and prediction of highway traffic data.

연구 동기 및 목표

• 기능적 ARMA(p,q) 과정에 대한 실용적인 예측 방법을 개발하기 위해, 무한차원적 구조로 인해 해석적으로 다루기 어려운 문제를 해결한다.
• 기능적 및 투영된 벡터 ARMA 모델에서 정적해가 존재하기 위한 충분조건을 설정한다.
• 기능적 최적 선형 예측자와 유한차원 벡터 모델에서 유도된 예측자 간의 근사 오차를 정량화한다.
• 실제 고속도로 교통 속도 데이터에 이 방법을 적용하여 단기 예측 성능 향상을 입증한다.
• 기능적 시간 시리즈 분석을 위한 표준 R 패키지(fda, mts)를 활용한 간결하고 구현 가능한 프레임워크를 제공한다.

제안 방법

• 기능적 주성분 분석(FPCA)을 사용하여 고차원 기능 데이터를 공분산 연산자의 d개의 중요한 고유함수들의 선형 결합으로 이루어진 부분공간으로 투영한다.
• 투영된 과정이 벡터 ARMA(p,q) 모델을 따르는 조건을 유도하며, 정적성과 인과적 표현을 보장한다.
• Durbin-Levinson 또는 혁신 알고리즘을 적용하여 벡터 모델의 최적 선형 예측자를 반복적으로 계산한다.
• 주성분 기저를 통해 벡터 예측 결과를 기능 공간으로 다시 변환함으로써 기능 예측자를 재구성한다.
• 기능적 최적 선형 예측자와 벡터 모델 예측자 간의 차이에 대한 이론적 경계를 수립하며, d → ∞ 일 때 수렴함을 보인다.
• 예측 오차에 대한 교차검증을 통해 최적의 모델 차수 (p,q)와 차원 d를 선택하며, 검증에는 RMSE 및 MAE 지표를 사용한다.

실험 결과

연구 질문

• RQ1 기능적 ARMA(p,q) 과정이 유일한 정적 및 인과적 해를 갖는 조건은 무엇인가?
• RQ2 기능적 ARMA(p,q) 과정을 첫 번째 d개 주성분으로 투영했을 때, 정확히 어떤 조건에서 벡터 ARMA(p,q) 과정이 되는가?
• RQ3 벡터 모델 예측자의 예측 오차는 기능적 최적 선형 예측자와 비교해 어떻게 되며, 이 차이를 경계로 표현할 수 있는가?
• RQ4 교통 속도 함수를 예측하기 위해 최적의 주성분 수 d와 모델 차수 (p,q)는 무엇인가?
• RQ5 제안된 방법은 기능적 시간 시리즈에서 전통적인 비모수적 예측 기법들(예: 지수평활법, 단순 예측, 평균 기반 예측)보다 성능이 뛰어나다고 할 수 있는가?

주요 결과

• 기능적 ARMA(p,q) 과정은 자기회귀 및 이동평균 연산자의 스펙트럼 반경이 충분히 작은 조건 하에서 유일한 정적 및 인과적 해를 갖는다.
• 공분산 연산자의 고유함수가 기능적 ARMA 연산자의 작용에 대해 불변일 경우, 투영된 벡터 과정은 정확히 벡터 ARMA(p,q) 모델이 된다.
• 기능적 MA(1) 과정의 경우, 투영된 벡터 과정은 자동으로 벡터 MA(1) 과정이 되며, 모델 구조가 유지된다.
• 주성분 수 d가 증가함에 따라 기능적 최적 선형 예측자와 벡터 모델 예측자 간의 차이가 0으로 수렴한다.
• 교통 데이터의 경우, 교차검증을 통해 최적의 모델은 d=4개 주성분을 가진 벡터 MA(1) 모델이며, 이는 1단계 예측 오차가 최소가 된다(RMSE = 4.83, MAE = 3.54).
• 제안된 방법은 지수평활법, 단순 예측, 평균 기반 예측과 같은 전통적인 비모수적 방법보다 RMSE 및 MAE 측면에서 뚜렷이 뛰어난 성능을 보였다.