[논문 리뷰] Exploiting statistical dependencies of time series with hierarchical correlation reconstruction

Jarek Duda|arXiv (Cornell University)|2018. 07. 11.

Blind Source Separation Techniques참고 문헌 14인용 수 9

한 줄 요약

이 논문은 시간 시리즈의 연합 확률분포를 모델링하기 위해 정규수직 다항식 기저 함수를 사용하는 계층적 상관관계 재구성 방법을 제안한다. 이는 최근 값과 같은 맥락을 활용하여 향후 값 분포를 정확하게 예측할 수 있도록 한다. 이 방법은 평균 제곱 오차(MSE) 최적화를 통해 고유하고 해석 가능한 계수를 계산하며, 이는 어떤 실수 연합 분포도 渐近적으로 기술할 수 있다. 기존의 가우시안 기반 ARMA/ARCH 모델보다 우수한 성능을 보이며, 특히 비가우시안 로그 수익률에 대해 뛰어난 성능을 발휘한다. 또한 비정상성에 대한 민감한 적응과 희소 기저 선택 기능을 제공한다.

ABSTRACT

While we are usually focused on forecasting future values of time series, it is often valuable to additionally predict their entire probability distributions, e.g. to evaluate risk, Monte Carlo simulations. On example of time series of $\approx$ 30000 Dow Jones Industrial Averages, there will be presented application of hierarchical correlation reconstruction for this purpose: MSE estimating polynomial as joint density for (current value, context), where context is for example a few previous values. Then substituting the currently observed context and normalizing density to 1, we get predicted probability distribution for the current value. In contrast to standard machine learning approaches like neural networks, optimal polynomial coefficients here have inexpensive direct formula, have controllable accuracy, are unique and independently calculated, each has a specific cumulant-like interpretation, and such approximation can asymptotically approach complete description of any real joint distribution - providing universal tool to quantitatively describe and exploit statistical dependencies in time series, systematically enhancing ARMA/ARCH-like approaches, also based on different distributions than Gaussian which turns out improper for daily log returns. There is also discussed application for non-stationary time series like calculating linear time trend, or adapting coefficients to local statistical behavior.

연구 동기 및 목표

• 이중 상관관계를 초월한 시간 시리즈의 복잡한 통계적 의존성을 다루는 보편적 비모수적 방법을 개발하기 위해.
• ARMA/ARCH와 같은 가우시안 기반 모델의 한계를 극복하기 위해 재무 로그 수익률의 무거운 尾행동을 포착하지 못하는 문제를 해결하기 위해.
• 현재 값의 조건부 전체 확률분포를 예측하기 위해 맥락 정보(예: 이전 값들)를 활용함으로써 리스크 평가 및 몬테카를로 시뮬레이션을 향상시키기 위해.
• 고유하고 독립적으로 계산 가능한 계수를 제공하는 프레임워크를 마련하여, 누적모멘트 유사한 해석 가능성을 가지며 정확도를 제어할 수 있도록 하기 위해.
• 계수를 국소 통계적 행동에 적응시키거나 추세를 직접 모델링함으로써 비정상성 시간 시리즈에 대한 적용을 확장하기 위해.

제안 방법

• 시간 시리즈 값을 정규화(예: 로그 수익률)하여 근사적으로 [0,1] 균일 분포를 얻고, 이를 위해 매개변수적 분포(예: 라플라스)의 CDF를 사용함으로써 꼬리 모델링과 계수 표준화를 향상시킴.
• 정규화된 변수들에 대해 1차원 정규수직 다항식의 곱을 사용하여 다변량 정규수직 다항식 기저를 구성함.
• 각 계수는 데이터 샘플에서 해당 기저 함수의 경험적 평균과 단순히 일치하므로, 평균 제곱 오차(MSE) 최적화를 통해 다항식 계수를 추정함.
• 현재 값과 맥락(예: 이전 5개 값)의 다항식으로 연합 밀도를 재구성한 후, 관측된 맥락에 조건화하고 적분이 1이 되도록 정규화하여 예측 가능한 주변 밀도를 확보함.
• 계산 비용을 줄이기 위해 희소 기저 선택을 적용하여 유의미한 계수만 유지함으로써, 소수의 변수들 간 혼합 모멘트에 집중함.
• 기존 모델(예: ARCH)과 통합하기 위해 예측된 분포를 사용해 데이터를 정규화한 후 잔차 의존성을 다항식 전개로 모델링함.

실험 결과

연구 질문

• RQ1 다항식 기반 연합 밀도 추정 방법이 표준 ARMA/ARCH 모델보다 시간 시리즈의 전체 예측 분포를 더 체계적으로 향상시킬 수 있는가? 특히 비가우시안 수익률에 대해 성능이 향상되는가?
• RQ2 다항식 계수는 통계적 모멘트와 어떻게 관련되어 있으며, 누적모멘트 유사한 의미 있는 해석이 가능할 수 있는가? 동시에 연합 분포를 정확하게 재구성할 수 있는가?
• RQ3 계수를 국소적으로 적응시키거나 추세를 직접 모델링함으로써 이 방법이 비정상성 시간 시리즈를 어느 정도 다룰 수 있는가?
• RQ4 모델 복잡도(계수 수)와 예측 정확도 사이의 상충 관계는 어떠한가? 과적합(예: 음수의 밀도)은 데이터 기반 방법으로 어떻게 校正할 수 있는가?
• RQ5 실제 재무 시간 시리즈(예: 다우존스 산업평균지수)에 적용했을 때, 이 방법은 가우시안 기반 모델보다 더 높은 로그우도와 무조건적 커버리지 성능을 달성할 수 있는가?

주요 결과

• 이 방법은 고차 상관관계를 활용한 후, 라플라스 기반 기준 모델 대비 평균 예측 밀도가 1.09배 향상되어 예측 정확도 향상이 뚜렷하게 나타남.
• 약 80%의 경우에서 맥락 인식 다항식 모델이 균일(ρ=1) 기준 모델을 능가하며, 조건부 예측 밀도가 무조건적 균일 분포보다 유의미하게 높음.
• 낮은 양의 확률을 나타내는 음수의 예측 밀도는 데이터 기반 최적화를 통해 校正 가능하며, 해석 가능성은 유지하면서도 예측 능력은 손상되지 않음.
• 기저 크기와 표본 크기가 증가함에 따라 이 방법은 어떤 실수 연합 분포에도 渐近적으로 수렴하므로, 통계적 의존성 모델링을 위한 보편적 도구가 됨.
• 희소 기저 선택은 계산 비용을 줄이면서도 예측 성능를 유지함으로써, 유의미한 통계 정보를 담고 있는 계수의 비율이 매우 낮다는 것을 시사함.
• 특히 정규성과 부합하지 않는 중간 로그 수익률의 경우, 이 방법은 로그우도와 무조건적 커버리지 성능에서 표준 가우시안 기반 모델을 능가함.