[논문 리뷰] Modeling Financial Time Series using LSTM with Trainable Initial Hidden States

Jungsik Hwang|arXiv (Cornell University)|2020. 07. 14.

Stock Market Forecasting Methods인용 수 8

한 줄 요약

이 논문은 재무 시계열 모델링을 위한 트레이너블한 초기 은닉 상태를 갖춘 LSTM 기반 모델을 제안하며, 시간적 패턴과 잠재 표현을 엔드 투 엔드로 학습할 수 있도록 한다. 한국 주식 데이터에 대한 실험 결과, 모델은 잠재 공간에서 주식 간 유사성을 잘 포착하고 향후 추세를 효과적으로 예측함으로써 포트폴리오 최적화에 잠재적 응용 가능성을 제시한다.

ABSTRACT

Extracting previously unknown patterns and information in time series is central to many real-world applications. In this study, we introduce a novel approach to modeling financial time series using a deep learning model. We use a Long Short-Term Memory (LSTM) network equipped with the trainable initial hidden states. By learning to reconstruct time series, the proposed model can represent high-dimensional time series data with its parameters. An experiment with the Korean stock market data showed that the model was able to capture the relative similarity between a large number of stock prices in its latent space. Besides, the model was also able to predict the future stock trends from the latent space. The proposed method can help to identify relationships among many time series, and it could be applied to financial applications, such as optimizing the investment portfolios.

연구 동기 및 목표

• LSTM 아키텍처에서 초기 은닉 상태를 엔드 투 엔드로 학습함으로써 재무 시계열 모델링을 향상시키는 것.
• 고차원의 주식 가격 데이터를 저차원의 잠재 공간에 표현할 수 있도록 모델을 가능하게 하는 것.
• 재무 분석을 위해 다수의 시계열 간 상대적 유사성을 잠재 공간에서 포착하는 것.
• 학습된 잠재 표현에서 향후 주식 추세를 예측하는 것.
• 개선된 시계열 표현을 통해 포트폴리오 관리와 같은 실용적 응용을 지원하는 것.

제안 방법

• 고정된 영값 초기화 대신 트레이너블한 초기 은닉 상태를 갖춘 장기 단기 기억(LSTM) 네트워크를 사용한다.
• 초기 은닉 상태는 학습 도중 최적화되어 재무 시계열의 시작 동역학을 더 잘 표현하도록 한다.
• 입력 시계열을 재구성하도록 네트워크를 훈련시켜 의미 있는 시간적 패턴과 의존성을 학습하도록 한다.
• 각 시계열을 처리한 후 LSTM의 최종 은닉 상태에서 잠재 표현을 추출한다.
• 유사한 주식 가격 움직임이 서로 가까이 임베딩되는 공유된 저차원 표현 공간을 학습한다.
• 이 방법은 동일한 학습된 잠재 공간을 사용하여 재구성 및 후행 예측 작업을 모두 수행할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 트레이너블한 초기 은닉 상태는 LSTM 오토인코더 프레임워크 내에서 재무 시계열의 표현 품질을 향상시킬 수 있는가?
• RQ2 학습된 잠재 공간은 다수의 주식 가격 시계열 간 상대적 유사성을 얼마나 잘 포착하는가?
• RQ3 모델에서 유도된 잠재 표현은 향후 주식 가격 추세를 예측하는 데 사용될 수 있는가?
• RQ4 고정된 영값 초기화를 갖는 표준 LSTM보다 복잡한 시간적 의존성을 더 잘 포착하는가?
• RQ5 학습된 표현은 포트폴리오 최적화와 같은 실용적 재무 응용을 지원할 수 있는가?

주요 결과

• 모델은 재무 시계열을 성공적으로 재구성하여 기저의 시간적 패턴을 효과적으로 포착함을 나타낸다.
• 최종 은닉 상태에 인코딩된 잠재 공간은 다수의 주식 가격 간 상대적 유사성을 효과적으로 표현한다.
• 모델은 잠재 표현만을 사용하여 향후 주식 추세 예측 능력을 입증하였다.
• 트레이너블한 초기 은닉 상태의 사용은 모델이 복잡한 고차원 시계열 데이터를 표현하는 데 능력을 향상시켰다.
• 결과적으로 학습된 잠재 공간은 포트폴리오 최적화와 같은 재무 응용에 활용될 수 있음을 시사한다.