[논문 리뷰] An Introductory Study on Time Series Modeling and Forecasting

Ratnadip Adhikari, R. K. Agrawal|arXiv (Cornell University)|2013. 02. 26.

Stock Market Forecasting Methods참고 문헌 34인용 수 509

한 줄 요약

이 논문은 실세계의 여섯 개 데이터셋을 대상으로 스트로스틱(예: ARIMA), 신경망, 서포트 벡터 머신(SVM)의 세 가지 주요 모델 유형을 평가하여 시간 시리즈 모델링 및 예측에 대한 종합적인 소개를 제공한다. 모델의 단순성(파라미터 수 최소화)을 강조하며, 오차 제곱 평균(MSE), 평균 절대 편차(MAD), 루트 평균 제곱 오차(RMSE), 평균 절대 퍼센트 오차(MAPE), Theil의 U 통계량을 포함한 다섯 가지 성능 지표를 사용한다. 분석 결과, 모델 선택이 예측 정확도에 큰 영향을 미치며, 비선형성과 복잡한 패턴을 포함한 데이터에서는 SVM 및 신경망 모델이 전통적인 스트로스틱 모델보다 뛰어난 성능을 보였다.

ABSTRACT

Time series modeling and forecasting has fundamental importance to various practical domains. Thus a lot of active research works is going on in this subject during several years. Many important models have been proposed in literature for improving the accuracy and effectiveness of time series forecasting. The aim of this dissertation work is to present a concise description of some popular time series forecasting models used in practice, with their salient features. In this thesis, we have described three important classes of time series models, viz. the stochastic, neural networks and SVM based models, together with their inherent forecasting strengths and weaknesses. We have also discussed about the basic issues related to time series modeling, such as stationarity, parsimony, overfitting, etc. Our discussion about different time series models is supported by giving the experimental forecast results, performed on six real time series datasets. While fitting a model to a dataset, special care is taken to select the most parsimonious one. To evaluate forecast accuracy as well as to compare among different models fitted to a time series, we have used the five performance measures, viz. MSE, MAD, RMSE, MAPE and Theil's U-statistics. For each of the six datasets, we have shown the obtained forecast diagram which graphically depicts the closeness between the original and forecasted observations. To have authenticity as well as clarity in our discussion about time series modeling and forecasting, we have taken the help of various published research works from reputed journals and some standard books.

연구 동기 및 목표

• 연구자 및 실무자들을 대상으로 핵심 시간 시리즈 예측 모델에 대한 간결하고 접근하기 쉬운 개요를 제공하기 위해.
• 실세계 시간 시리즈 예측에서 스트로스틱 모델, 신경망 모델, SVM 기반 모델의 강점과 약점을 평가하기 위해.
• 시간 시리즈 모델링에서 과적합을 방지하기 위해 모델의 단순성(파라미터 수 최소화)을 강조하기 위해.
• 다양한 데이터셋에서 표준화되고 널리 수용된 정확도 지표를 사용하여 모델 성능을 비교하기 위해.
• 육개의 실시간 시리즈 데이터셋에서의 실증적 결과를 바탕으로 연구 결과를 뒷받침하여 실용적 관련성을 높이기 위해.

제안 방법

• 본 연구는 스트로스틱(예: ARIMA), 신경망, 서포트 벡터 머신(SVM)의 세 가지 주요 시간 시리즈 모델 유형을 평가한다.
• 각 데이터셋에 대해 다수의 모델을 적합시키며, 과적합을 방지하기 위해 단순성 기반으로 모델 선택을 우선시한다.
• 예측 정확도 평가 및 비교를 위해 평균 제곱 오차(MSE), 평균 절대 편차(MAD), 루트 평균 제곱 오차(RMSE), 평균 절대 퍼센트 오차(MAPE), Theil의 U 통계량을 포함한 다섯 가지 성능 지표를 사용한다.
• 모든 데이터셋에서 원본 값과 예측 값을 시각적으로 비교하기 위해 예측도를 생성한다.
• 메소드적 엄밀성과 명확성을 확보하기 위해 기존 문헌과 표준 교과서를 기반으로 분석한다.
• 실세계 시간 시리즈 데이터셋 여섯 개를 대상으로 실험하여 실증적 타당성과 실용적 적용 가능성을 확보한다.

실험 결과

연구 질문

• RQ1 비선형성과 복잡한 패턴을 포함한 다양한 실세계 데이터셋에서 스트로스틱 모델, 신경망 모델, SVM 모델 중 어느 모델 유형이 가장 높은 정확도를 보이는가?
• RQ2 표준 성능 지표(MSE, MAPE, Theil의 U)는 예측 신뢰도 측면에서 다양한 모델을 어떻게 순위 매기는가?
• RQ3 모델의 단순성은 얼마나 예측 성능 향상과 과적합 방지에 기여하는가?
• RQ4 다양한 유형의 데이터에서 실제 관측치와 예측값 간의 시각적 및 정량적 비교는 어떻게 이루어지는가?
• RQ5 각 모델 유형은 비선형성과 시간 시리즈의 구조적 변화를 다루는 데서 어떤 본질적 강점과 한계를 지니는가?

주요 결과

• SVM 기반 모델은 비선형성과 불규칙한 시간 시리즈에서 일관되게 낮은 MAPE 및 Theil의 U 값을 기록하여 복잡한 패턴에서 뛰어난 정확도를 보였다.
• 신경망 모델은 강한 비선형 추세와 계절성을 보이는 데이터셋에서 기존 스트로스틱 모델을 능가했으며, 특히 장기 예측에서 두각을 나타냈다.
• ARIMA 및 기타 스트로스틱 모델은 모델 차수를 신중히 선택한 경우 정적이고 선형적이며 계절성이 있는 시간 시리즈에서 더 뛰어난 성능을 보였다.
• Theil의 U 통계량을 사용한 분석 결과, 일부 모델, 특히 SVM 모델이 다른 모델보다 예측 오차 분산을 더 효과적으로 감소시키는 것으로 나타났다.
• 예측도 분석 결과, 비정상성과 변동성이 큰 시리즈에서 SVM 및 신경망 모델이 실제 관측치와 더 밀접한 일치를 보였으며, 스트로스틱 모델보다 우수한 성능을 보였다.
• 모델의 단순성은 매우 중요하다는 것이 확인되었으며, 과다 파rameter화된 모델은 특히 작은 데이터셋에서 과적합을 유발하여 일반화 성능을 떨어뜨렸다.