[논문 리뷰] A long short-term memory stochastic volatility model

Nghia Nguyen, Minh‐Ngoc Tran외 2명|arXiv (Cornell University)|2019. 01. 01.

Stock Market Forecasting Methods참고 문헌 15인용 수 5

한 줄 요약

이 논문은 장기 기억성과 비선형성을 갖는 금융 변동성의 동적 특성을 포착하기 위해 장기 순환 기억(LSTM) 네트워크와 확률적 변동성(SV) 모델을 융합한 새로운 하이브리드 모델인 LSTM-SV를 제안한다. 잠재 변동성 과정에 LSTM을 통합함으로써, 특히 SP500와 ASX200와 같은 주식 인덱스에서 관찰되는 강한 장기 기억성과 비선형 의존성에 기인한 전통적 SV 모델이 포착하지 못하는 특성을 개선하여, 검증되지 않은 데이터에 대한 예측 정확도를 향상시킨다. 이는 환율 데이터에서는 관찰되지 않는 특성이다.

ABSTRACT

Stochastic Volatility (SV) models are widely used in the financial sector while Long Short-Term Memory (LSTM) models are successfully used in many large-scale industrial applications of Deep Learning. Our article combines these two methods in a non-trivial way and proposes a model, which we call the LSTM-SV model, to capture the dynamics of stochastic volatility. The proposed model overcomes the short-term memory problem in conventional SV models, is able to capture non-linear dependence in the latent volatility process, and often has a better out-of-sample forecast performance than SV models. These properties are illustrated through simulation study and applications to three financial time series datasets: The US stock market weekly index SP500, the Australian stock weekly index ASX200 and the Australian-US dollar daily exchange rates. Based on our analysis, we argue that there are significant differences in the underlying dynamics between the volatility process of the SP500 and ASX200 datasets and that of the exchange rate dataset. For the stock index data, there is strong evidence of long-term memory and non-linear dependence in the volatility process, while this is not the case for the exchange rates. An user-friendly software package together with the examples reported in the paper are available at https://github.com/vbayeslab.

연구 동기 및 목표

• 기존의 확률적 변동성(SV) 모델의 한계, 특히 짧은 기억성과 잠재 변동성 내 비선형 의존성을 모델링할 수 없는 점을 해결하기 위해.
• 장기 순환 기억(LSTM) 네트워크를 SV 프레임워크에 통합하여 복잡한 변동성 동적 특성을 보다 잘 모델링하기 위해.
• 실제 금융 시계열 데이터에 대한 LSTM-SV 모델의 검증되지 않은 예측 성능을 평가하기 위해.
• 주식 인덱스와 환율 간 잠재 변동성 역학에 중대한 차이가 있는지 조사하기 위해.
• 재현 가능성과 금융 연구 분야에서의 광범위한 채택을 위해 사용자 친화적인 소프트웨어 구현을 제공하기 위해.

제안 방법

• LSTM-SV 모델은 전통적인 SV 모델의 선형 자기회귀 구조를 딥러닝 기반의 LSTM 네트워크로 대체하여 잠재 변동성 과정을 모델링한다.
• 잠재 변동성은 상태공간 모형으로 표현되며, 평균 회귀 및 지속성 파라미터는 로그 수익률에 기반해 훈련된 LSTM 네트워크를 통해 학습된다.
• 잠재 상태와 모델 파라미터의 사후 분포 추정을 위해 해밀토니안 몽테카를로(HMC) 기반 베이지안 추론 기법을 사용한다.
• LSTM 구성요소는 변동성 내 비선형 시간적 의존성과 장기 기억성을 효과적으로 포착하여, 표준 SV 모델이 지닌 마르코프 성질의 제약을 극복한다.
• 모델은 세 가지 데이터셋에 적용된다: SP500 주간 수익률, ASX200 주간 수익률, AUD/USD 일간 환율.
• 예측 성능 평가를 위해 검증되지 않은 예측 밀도 점수와 로그우도 지표를 사용하여 모델 간 비교 분석을 수행한다.

실험 결과

연구 질문

• RQ1 LSTM 기반 아키텍처는 금융 시계열의 잠재 변동성 과정 내 비선형 의존성을 효과적으로 모델링할 수 있는가?
• RQ2 LSTM-SV 모델은 검증되지 않은 데이터에 대해 기존 SV 모델보다 변동성 예측 정확도에서 뛰어난 성능을 보일 수 있는가?
• RQ3 주식 인덱스(S&P500, ASX200)와 환율(AUD/USD) 간 변동성 역학에 중대한 차이가 존재하는가?
• RQ4 LSTM-SV 모델은 표준 SV 모델이 감지하지 못하는 변동성의 장기 기억 효과를 포착할 수 있는가?
• RQ5 SV 모델에 딥러닝을 통합함으로써 실세계 금융 데이터에서 더 강건하고 민감한 변동성 예측이 가능해지는가?

주요 결과

• LSTM-SV 모델은 모든 세 가지 금융 데이터셋에서 기존 SV 모델에 비해 뛰어난 검증되지 않은 예측 성능을 보였다.
• SP500와 ASX200 주식 인덱스의 경우, 변동성 과정 내 강력한 장기 기억성과 비선형 의존성이 확인되었으며, LSTM-SV 모델이 이를 성공적으로 포착하였다.
• 반면, 환율 데이터셋(AUD/USD)는 변동성 내 유의미한 장기 기억성이나 비선형 의존성이 없었으며, 이는 다른 잠재 역학을 반영하는 것으로 나타났다.
• LSTM 구성요소는 복잡한 시간적 의존성을 효과적으로 모델링하여, 표준 SV 모델이 다루지 못하는 장기적 변동성 패턴을 학습하고 유지할 수 있도록 하였다.
• 모델의 향상된 성능는 LSTM 아키텍처를 통해 잠재 변동성 과정 내 비선형 상태 전이를 학습할 수 있는 능력에 기인한다.
• 예제 코드를 포함한 사용자 친화적인 소프트웨어 패키지가 GitHub에 공개되어 있어, 금융 연구 분야에서의 복제 및 확장이 용이하다.