[논문 리뷰] Time series forecasting using neural networks

Bogdan Oancea, Ştefan Cristian Ciucu|arXiv (Cornell University)|2014. 01. 07.

Stock Market Forecasting Methods참고 문헌 6인용 수 13

한 줄 요약

이 논문은 2005년에서 2013년 사이의 외환 환율(EUR/RON 및 USD/RON) 예측을 위해 피드포워드 및 순환 신경망을 평가하며, 다양한 아키텍처와 학습 알고리즘을 비교한다. 연구 결과, 순환 신경망, 특히 LSTM 유닛을 갖춘 RNN이 비선형 시계열 데이터 패턴을 더 잘 포착하여 전통적인 선형 모델과 피드포워드 네트워크보다 우수한 성능을 보임을 입증한다.

ABSTRACT

Recent studies have shown the classification and prediction power of the Neural Networks. It has been demonstrated that a NN can approximate any continuous function. Neural networks have been successfully used for forecasting of financial data series. The classical methods used for time series prediction like Box-Jenkins or ARIMA assumes that there is a linear relationship between inputs and outputs. Neural Networks have the advantage that can approximate nonlinear functions. In this paper we compared the performances of different feed forward and recurrent neural networks and training algorithms for predicting the exchange rate EUR/RON and USD/RON. We used data series with daily exchange rates starting from 2005 until 2013.

연구 동기 및 목표

• 금융 외환 환율 예측에서 다양한 신경망 아키텍처의 효과성을 평가하는 것.
• 일일 환율 데이터의 비선형 의존성을 모델링하는 데 있어 피드포워드 네트워크와 순환 신경망의 성능을 비교하는 것.
• EUR/RON 및 USD/RON에 대한 예측 정확도에서 다양한 학습 알고리즘이 어떻게 성능에 영향을 미치는지 평가하는 것.
• ARIMA와 같은 전통적인 선형 모델보다 신경망이 비선형 금융 시계열 예측에서 더 우수한 성능을 보일 수 있는지 확인하는 것.
• 실제 외환 환율 예측에 있어 신경망의 적합성을 뒷받침하는 실증적 증거를 제공하는 것.

제안 방법

• 2005년에서 2013년 사이의 EUR/RON 및 USD/RON에 대한 일일 환율 데이터를 사용한다.
• 표준 RNN과 LSTM 네트워크를 포함한 다양한 피드포워드 및 순환 신경망 아키텍처를 학습 및 평가한다.
• Levenberg-Marquardt 및 스케일드 콜라티브 기울기와 같은 다양한 학습 알고리즘을 적용하여 네트워크 가중치를 최적화한다.
• 모델은 이전 값들의 슬라이딩 윈도우를 기반으로 다음 날의 환율을 예측하도록 학습된다.
• 표준 평가 지표인 평균제곱오차(MSE) 및 평균절대오차(MAE)를 사용하여 성능을 측정한다.
• 비선형 모델링의 우수성을 부각시키기 위해 전통적인 선형 모델인 ARIMA와 결과를 비교한다.

실험 결과

연구 질문

• RQ1 순환 신경망은 외환 환율 시계열의 비선형 의존성을 효과적으로 모델링할 수 있는가?
• RQ2 피드포워드 네트워크와 순환 신경망 간의 다양한 아키텍처가 환율 예측 정확도에서 어떻게 비교되는가?
• RQ3 이 예측 작업에서 다양한 신경망 유형에 대해 가장 뛰어난 성능을 내는 학습 알고리즘은 무엇인가?
• RQ4 신경망이 ARIMA와 같은 전통적인 선형 모델보다 환율 변동 예측에서 얼마나 더 뛰어난가?
• RQ5 시계열 길이와 입력 윈도우 크기가 RNN을 사용한 예측 정확도에 어떤 영향을 미치는가?

주요 결과

• 특히 LSTM 유닛을 갖춘 순환 신경망이 피드포워드 네트워크보다 EUR/RON 및 USD/RON 환율 시리즈에서 유의미하게 낮은 평균제곱오차(MSE)를 기록했다.
• Levenberg-Marquardt 알고리즘이 다른 학습 방법에 비해 피드포워드 네트워크에서 더 빠른 수렴 속도와 뛰어난 성능을 보였다.
• LSTM 네트워크는 시계열 데이터의 장기적 의존성을 포착하는 데 있어 뛰어난 일반화 능력과 안정성을 보였다.
• 특히 변동성이 높은 시장 조건에서 신경망의 예측 성능은 ARIMA 모델보다 일관되게 뛰어났다.
• 이전 환율의 슬라이딩 윈도우 사용이 예측 정확도를 향상시켰으며, 최적의 윈도우 크기는 통화 쌍에 따라 달라졌다.
• 이 연구는 신경망이 금융 시계열에서 복잡한 비선형 함수를 효과적으로 근사할 수 있음을 확인하여, 예측에 있어 그 활용 가능성을 뒷받침한다.