[논문 리뷰] Prediction of financial time series using LSTM and data denoising methods

Qi Tang, Tongmei Fan외 3명|arXiv (Cornell University)|2021. 03. 05.

Stock Market Forecasting Methods참고 문헌 6인용 수 11

한 줄 요약

이 논문은 고주파 금융 시계열의 노이즈 제거를 위해 웨이블릿 변환(WT)과 단일 스펙트럼 분석(SSA)을 통합한 하이브리드 LSTM 모델을 제안한다. DJIA 종가 시계열을 분해하고 재구성하여 노이즈를 제거함으로써, 표준 LSTM보다 예측 정확도와 일반화 능력이 크게 향상된 WT-LSTM 모델은 단기(1시간), 중기(3시간), 장기(6시간) 예측 수준에서 LSTM 및 SSA-LSTM을 모두 능가한다.

ABSTRACT

In order to further overcome the difficulties of the existing models in dealing with the non-stationary and nonlinear characteristics of high-frequency financial time series data, especially its weak generalization ability, this paper proposes an ensemble method based on data denoising methods, including the wavelet transform (WT) and singular spectrum analysis (SSA), and long-term short-term memory neural network (LSTM) to build a data prediction model, The financial time series is decomposed and reconstructed by WT and SSA to denoise. Under the condition of denoising, the smooth sequence with effective information is reconstructed. The smoothing sequence is introduced into LSTM and the predicted value is obtained. With the Dow Jones industrial average index (DJIA) as the research object, the closing price of the DJIA every five minutes is divided into short-term (1 hour), medium-term (3 hours) and long-term (6 hours) respectively. . Based on root mean square error (RMSE), mean absolute error (MAE), mean absolute percentage error (MAPE) and absolute percentage error standard deviation (SDAPE), the experimental results show that in the short-term, medium-term and long-term, data denoising can greatly improve the accuracy and stability of the prediction, and can effectively improve the generalization ability of LSTM prediction model. As WT and SSA can extract useful information from the original sequence and avoid overfitting, the hybrid model can better grasp the sequence pattern of the closing price of the DJIA. And the WT-LSTM model is better than the benchmark LSTM model and SSA-LSTM model.

연구 동기 및 목표

• 고주파 금융 시계열에서의 비정상성과 비선형성 문제를 해결한다.
• 일반적으로 노이즈가 많은 금융 데이터에 과적합되는 LSTM 모델의 일반화 능력을 향상시킨다.
• 웨이블릿 변환(WT)과 단일 스펙트럼 분석(SSA)과 같은 데이터 노이즈 제거 기법이 LSTM 기반 예측 성능 향상에 얼마나 효과적인지 평가한다.
• 노이즈 제거 기법과 딥러닝을 융합한 하이브리드 모델을 개발하고, 이를 통해 강력한 금융 예측을 검증한다.
• WT-LSTM, SSA-LSTM, 표준 LSTM의 성능을 다양한 시간 수준(1시간, 3시간, 6시간)에서 비교한다.

제안 방법

• 원본 DJIA 종가 시계열을 웨이블릿 변환(WT)을 적용하여 근사 및 세부 계수로 분해한다.
• 단일 스펙트럼 분석(SSA)을 사용하여 시계열을 추세, 진동 성분 및 노이즈 성분으로 분해한다.
• WT 및 SSA 분해에서 유의미한 성분을 선택적으로 유지하여 노이즈 제거된 신호를 재구성한다.
• 노이즈 제거 및 스무딩된 시퀀스를 장기 기억 전이(기억장기) 신경망(LSTM)에 입력하여 시계열 예측을 수행한다.
• 노이즈 제거된 시퀀스를 기반으로 LSTM 모델을 훈련하여 단기, 중기, 장기 예측 수준에서 향후 종가를 예측한다.
• 하이퍼파rameter 튜닝을 통해 모델 성능를 최적화하고, RMSE, MAE, MAPE, SDAPE 지표를 사용해 평가한다.

실험 결과

연구 질문

• RQ1 WT 및 SSA를 통한 데이터 노이즈 제거가 고주파 금융 시계열에서 LSTM 모델의 예측 정확도 향상에 기여하는가?
• RQ2 예측 오차와 안정성 측면에서 WT-LSTM 모델은 표준 LSTM 및 SSA-LSTM 모델보다 어떻게 비교되는가?
• RQ3 노이즈 제거가 비정상적이고 비선형적인 금융 데이터에서 LSTM 모델의 일반화 능력을 향상시키는가?
• RQ4 LSTM과 조합했을 때, WT 또는 SSA 중 어느 노이즈 제거 방법이 더 높은 성능을 내는가?
• RQ5 노이즈 제거된 입력을 사용할 경우, 예측 오차는 1시간, 3시간, 6시간 등의 다양한 시간 수준에서 어떻게 달라지는가?

주요 결과

• WT 및 SSA를 통한 데이터 노이즈 제거는 표준 LSTM에 비해 모든 시간 수준(1시간, 3시간, 6시간)에서 예측 정확도를 크게 향상시킨다.
• WT-LSTM 모델은 RMSE, MAE, MAPE 값이 가장 낮아, 기준 LSTM 및 SSA-LSTM 모델을 모두 능가한다.
• WT-LSTM 모델은 절대 백분율 오차 표준편차(SDAPE)를 감소시켜 더 높은 예측 안정성을 보인다.
• 노이즈 제거로 인해 노이즈가 많은 데이터에 대한 과적합을 줄여 LSTM 모델의 일반화 능력이 향상된다.
• WT 및 SSA는 원본 DJIA 시계열에서 유용한 신호 성분을 효과적으로 추출하며, 핵심 가격 패턴을 유지한다.
• 하이브리드 WT-LSTM 접근법은 장기 추세와 단기 변동을 동시에 잘 포착하여 뛰어난 강건성과 일관성을 보인다.