[논문 리뷰] An Integrated Early Warning System for Stock Market Turbulence

Peiwan Wang, Lu Zong외 1명|arXiv (Cornell University)|2019. 11. 28.

Complex Systems and Time Series Analysis참고 문헌 53인용 수 5

한 줄 요약

이 논문은 스위칭 ARCH(SWARCH) 필터링 확률, 이중피크 기법을 통한 동적 임계값 설정, 그리고 하이브리드 LSTM 네트워크를 활용하여 일일 위기 예측을 위한 통합된 조기경보 시스템(EWS)을 제안한다. 시스템은 중국 주식시장 데이터에 대한 백테스팅에서 테스트 세트 정확도 96.6%와 평균 2.4일의 조기 경보 기간을 기록하여 높은 정확도, 안정성 및 실용적 가치를 입증한다.

ABSTRACT

This study constructs an integrated early warning system (EWS) that identifies and predicts stock market turbulence. Based on switching ARCH (SWARCH) filtering probabilities of the high volatility regime, the proposed EWS first classifies stock market crises according to an indicator function with thresholds dynamically selected by the two-peak method. A hybrid algorithm is then developed in the framework of a long short-term memory (LSTM) network to make daily predictions that alert turmoils. In the empirical evaluation based on ten-year Chinese stock data, the proposed EWS yields satisfying results with the test-set accuracy of $96.6\%$ and on average $2.4$ days of the forewarned period. The model's stability and practical value in real-time decision-making are also proven by the cross-validation and back-testing.

연구 동기 및 목표

• 실시간으로 주식시장의 변동성 증가를 탐지하고 예측할 수 있는 강력하고 동적인 조기경보 시스템(EWS)을 개발하는 것.
• 고정 임계값 기반의 위기 식별 방식의 한계를 보완하기 위해 이중피크 기법을 활용한 데이터 기반 동적 임계값 설정 방법을 도입하는 것.
• SWARCH 변동성 제도 필터링과 결합된 장기 단기 기억(LSTM) 네트워크를 통합하여 일일 위기 예측 성능을 향상시키는 것.
• 다양한 평가 지표를 기반으로 교차검증, 백테스팅, 기준 모델과의 비교를 통해 시스템의 실용적 유용성을 검증하는 것.

제안 방법

• EWS는 시간에 따라 변화하는 고변동성 제도의 확률을 추정하기 위해 스위칭 ARCH(SWARCH) 모델링을 사용하며, 이는 위기 탐지의 핵심 입력 자료로 기능한다.
• SWARCH 필터링 확률에 이중피크 기법을 적용하여 동적 위기 임계값을 결정함으로써 변동성 증가 사건을 적응적으로 식별할 수 있도록 한다.
• 동적으로 선택된 임계값을 기반으로 지표 함수가 시장 상태를 변동성 있는 상태 또는 안정 상태로 분류하며, 고정된 통계적 임계값을 대체한다.
• 역사적 금융 지표 시계열과 SWARCH 확률을 입력으로 사용하여 LSTM 네트워크를 훈련시켜 높은 시간 해상도로 일일 위기 발생을 예측한다.
• 모델 평가를 위해 5-폴드 및 3-폴드 교차검증을 실시하며, 성능은 테스트 세트 정확도, 손실, 조기 경보 기간으로 측정된다.
• 백테스팅은 단순한 마켓 타이밍 전략을 사용한다: EWS가 경고 신호를 발령하면 시장에서 철수하고, 신호가 반전되면 재진입하여 리스크 조정 수익률(샤프 비율)을 평가한다.

실험 결과

연구 질문

• RQ1 이중피크 기법에 기반한 동적 임계값 설정 방법이 기존의 고정 임계값 기반의 위기 식별 방식보다 주식시장 변동성 증가 탐지에서 뛰어나게 성능을 발휘할 수 있는가?
• RQ2 SWARCH로 필터링된 변동성 제도를 기반으로 훈련된 LSTM 기반 모델이 일일 주식시장 위기 예측에 얼마나 효과적인가?
• RQ3 백테스팅에서 통합된 EWS가 수동 마켓 포트폴리오 대비 리스크 조정 수익률을 얼마나 향상시키는가?
• RQ4 다양한 교차검증 폴드와 테스트 기간 동안 EWS는 얼마나 안정적이고 일반화 가능한가?
• RQ5 SWARCH 필터링, 동적 임계값 설정, 딥러닝의 통합이 기준 모델 대비 조기경보 성능을 향상시키는가?

주요 결과

• LSTM 기반 EWS는 테스트 세트 정확도 96.6%를 기록하여 BPNN 및 SVR 등의 기준 모델보다 정확도와 안정성 면에서 뚜렷한 우월성을 보였다.
• 시스템은 주요 시장 변동성 증가 사건 발생 평균 2.4일 전에 경고를 제공하여 강력한 예측 리드 타임을 확보하였다.
• 백테스팅 결과, LSTM 기반 EWS는 전체 샘플 기준으로 샤프 비율을 3.8%p 향상시키고, 테스트 세트 기준으로는 2.4%p 향상시켰다.
• EWS-LSTM 모델은 테스트 세트 성능, 교차검증, 백테스팅 등 모든 평가 단계에서 일관된 우월성을 유지하며 강건성을 입증하였다.
• 이중피크 기법을 통한 임계값 선택은 기존의 고정 임계값 접근 방식(예: CMAX 기반)보다 더 정확하고 안정적인 위기 분류를 가능하게 하였다.
• SWARCH 변동성 제도 확률을 입력으로 통합함으로써 모델이 체계적 변동성 증가를 탐지하는 능력이 향상되었으며, 샘플 내 기록된 모든 주요 위기 사건을 정확하게 반영한 것으로 확인되었다.