[논문 리뷰] Conditional Autoregressive Hilbertian processes

Jairo Cugliari|arXiv (Cornell University)|2013. 02. 14.

Neural Networks and Applications참고 문헌 16인용 수 4

한 줄 요약

이 논문은 조건부 자기회귀 힐버트 과정(CARH)을 도입하며, 외생 공변수를 조건부 기대값을 통해 포함시켜 고전적 자기회귀 힐버트 과정을 확장한 기능적 시계열 모델이다. 이 방법은 무한차원 연산자의 국소적 커널 가중 추정을 사용하며, 추정사슬과 예측사슬의 거의 확실한 일致성을 입증한다. 전력 수요 예측에 적용한 결과, 표준 ARH 모델보다 성능 향상을 보였다.

ABSTRACT

When considering the problem of forecasting a continuous-time stochastic process over an entire time-interval in terms of its recent past, the notion of Autoregressive Hilbert space processes (ARH) arises. This model can be seen as a generalization of the classical autoregressive processes to Hilbert space valued random variables. Its estimation presents several challenges that were addressed by many authors in recent years. In this paper, we propose an extension based on this model by introducing a conditioning process on the arh. In this way, we are aiming a double objective. First, the intrinsic linearity of arh is overwhelm. Second, we allow the introduction of exogenous covariates on this function- valued time series model. We begin defining a new kind of processes that we call Conditional arh. We then propose estimators for the infinite dimensional parameters associated to such processes. Using two classes of predictors defined within the arh framework, we extend these to our case. Consistency results are provided as well as a real data application related to electricity load forecasting.

연구 동기 및 목표

• 외생 공변수를 비가산적이고 조건부 방식으로 포함시켜 자기회귀 힐버트(ARH) 과정을 확장하기.
• ARH 모델의 본질적 선형성 문제를 해결하기 위해 자기회귀 연산자가 공변수에 따라 변화하도록 허용하기.
• 기능적 비모수 설정에서 무한차원 조건부 연산자의 일致 추정사슬을 개발하기.
• 공변수에 대한 국소적 의존성을 활용해 향상된 예측 성능를 얻는 두 가지 예측기 클래스를 제안하기.
• 실세계 전력 수요 예측 응용을 통해 모델의 실증적 타당성 검증하기.

제안 방법

• 외생 공변수 $ V $ 에 따라 변화하는 랜덤 연산자 $ \rho_V $ 를 포함한 새로운 기능적 시계열 클래스인 조건부 자기회귀 힐버트(CARH) 과정을 정의하며, $ Z_{k+1} = \rho_V Z_k + \epsilon_k $ 으로 기술된다.
• 조건부 평균 연산자 $ \rho_v $ 를 추정하기 위해 커널 가중 국소 평균을 사용하며, 밴드위드는 데이터 기반 규칙에 의해 선택된다.
• 이차모멘트 연산자 $ R(v) = \mathbb{E}^v[Z_0 \otimes Z_0 \mid V] $ 와 조건부 평균 $ a(v) = \mathbb{E}^v[Z_0 \mid V] $ 의 경험적 대체값을 활용한다.
• 비율 추정을 통해 조건부 연산자 $ r(v) = \rho_v $ 의 추정사슬을 유도한다: $ \widehat{r}_n = \widehat{g}_{v,n} / \widehat{f}_n $, 여기서 $ \widehat{g}_{v,n} $ 와 $ \widehat{f}_n $ 은 상호모멘트와 자기모멘트의 국소 추정치이다.
• $ \mathcal{K}_2 $-노름 수렴을 이용해 조건부 연산자 및 그 고유구조에 대한 추정사슬의 거의 확실한 일치성을 입증한다.
• ARH 프레임워크에서 유래한 두 가지 예측기 클래스(조건부 기대값 기반 및 고유함수 전개 기반)를 CARH 설정으로 일반화하며, 이론적 일치성 보장 조건을 제공한다.

실험 결과

연구 질문

• RQ1 기능적 자기회귀 모델은 외생 공변수에 따라 자기회귀 연산자가 비가산적으로 의존하도록 확장될 수 있는가?
• RQ2 기능적 비모수 설정에서 무한차원 조건부 연산자의 일치 추정은 어떻게 달성할 수 있는가?
• RQ3 공변수 존재 하에 국소 조건부 추정 기반 예측기는 표준 ARH 예측기보다 우월한 성능을 보일 수 있는가?
• RQ4 조건부 연산자 및 그 스펙트럼 성분에 대한 추정사슬의 이론적 수렴 속도는 무엇인가?
• RQ5 제안된 모델은 실세계 기능적 시계열, 예를 들어 전력 수요 곡선과 같은 경우에 예측 정확도 향상을 이끌 수 있는가?

주요 결과

• 조건부 연산자 $ \rho_v $ 를 위한 제안된 추정사슬 $ \widehat{r}_n $ 이 $ \mathcal{K}_2 $-노름에서 진짜 연산자로 거의 확실하게 수렴하며, 수렴 속도는 $ \mathcal{O}\left(\left(\frac{n}{\ln n}\right)^{\frac{2}{4+d}}\right) $ 이다.
• 조건부 연산자 $ \Gamma_v $ 의 고유값과 고유함수는 일치적으로 추정되며, 수렴 속도는 $ \widehat{\Gamma}_{v,n} $ 의 연산자 노름 오차에 의해 제한된다.
• 정규성 조건 하에서 제안된 예측기의 예측 오차는 거의 확실하게 0으로 수렴하며, 이는 이론적 일치성을 확인한다.
• 전력 수요 응용에서 표준 ARH 모델 대비 향상된 예측 성능를 달성하며, 온도나 시간대와 같은 공변수를 사용할 경우 尤히 뚜렷하다.
• 국소 커널 가중치의 사용은 공변수에 의존하는 역학적 특성 덕분에 기능적 시계열의 제도적 변화와 비 stationary 성질에 적응할 수 있도록 한다.
• 약한 의존성과 연속된 공변수 밀도 등의 최소한의 가정 하에 이론적 결과를 도출하여 광범위한 적용 가능성을 확보한다.