[논문 리뷰] Extending Deep Learning Models for Limit Order Books to Quantile Regression

Zihao Zhang, Stefan Zohren외 1명|arXiv (Cornell University)|2019. 06. 11.

Stock Market Forecasting Methods참고 문헌 12인용 수 6

한 줄 요약

이 논문은 양방향 포지션에 대해 한 번에 여러 수익률 분위수를 함께 모델링하기 위해 한정된 주문도서(LOB) 데이터를 사용하여 분위수 회귀(QR)를 적용한 딥러닝 아키텍처를 제안한다. 특징 추출을 위한 컨볼루션 계층과 시간적 모델링을 위한 LSTM 브랜치를 조합함으로써, 예측 성능과 강건성(특히 분위수 추정치를 조합할 경우)이 향상되어, LSE의 다섯 종목에 대해 기존 모델들을 능가한다.

ABSTRACT

We showcase how Quantile Regression (QR) can be applied to forecast financial returns using Limit Order Books (LOBs), the canonical data source of high-frequency financial time-series. We develop a deep learning architecture that simultaneously models the return quantiles for both buy and sell positions. We test our model over millions of LOB updates across multiple different instruments on the London Stock Exchange. Our results suggest that the proposed network not only delivers excellent performance but also provides improved prediction robustness by combining quantile estimates.

연구 동기 및 목표

• 비정상적이고 꼬리가 두꺼운 금융 수익률에서 기존 시계열 모델의 한계를 극복하기 위해 딥러닝과 분위수 회귀를 융합한다.
• 장·단기 포지션에 대해 동시에 여러 분위수(예: 0.25, 0.5, 0.75)를 추정하여 수익률 분포를 보다 정확히 모델링한다.
• 제약 조건을 포함한 최적화를 통해 분위수 추정치를 조합함으로써 예측 강건성을 향상시킨다.
• 1단계 LOB 가격(매수/매도)을 중간가격 대신 사용할 경우, 일일 거래 전략에 대해 더 현실적인 수익률 추정치를 제공함을 입증한다.

제안 방법

• 원시 10단계 LOB 데이터(타임스탬프당 40개 특징)에서 특징 추출을 위한 공유 컨볼루션 계층을 갖춘 딥 네ural 네트워크 아키텍처로, 각 분위수별로 별도의 LSTM 브랜치를 구현한다.
• 각 LSTM 브랜치는 자체 목표 분위수(예: 0.25, 0.5, 0.75)에 맞는 분위수 손실 함수로 훈련되어 향후 수익률의 조건부 분위수 추정을 가능하게 한다.
• 모델은 LOB 업데이트 시퀀스를 기반으로 100단계 앞선 수익률을 예측하며, 시간적 의존성과 주문도서의 역학을 포착한다.
• 예측 오차를 최소화하기 위해 최적의 가중치를 부여하는 제약 조건을 포함한 최적화(식 7)를 적용하여 예측 조합 전략을 시행한다.
• 모델은 LSE의 다섯 종목에 대해 1년 분량의 고주기 LOB 데이터를 사용하여 훈련하며, 훈련, 검증, 테스트 세트는 각각 6개월, 3개월, 3개월으로 분할된다.
• 성능 평가에는 MAE, MSE, MeAE, R² 점수를 사용하며, 이는 0지능성(반복적) 기준선 대비 정규화된다.

실험 결과

연구 질문

• RQ1 원시 LOB 데이터를 사용하여 딥러닝 모델이 장·단기 포지션에 대해 동시에 여러 분위수를 추정할 수 있는가?
• RQ2 최적화를 통해 분위수 추정치를 조합할 경우, 개별 분위수 모델 대비 예측 성능이 향상되는가?
• RQ3 일일 전략에 대한 현실적인 거래 수익률 추정치를 위해 1단계 LOB 가격(매수/매도)을 중간가격 대비 사용할 경우 성능에 어떤 영향을 미치는가?
• RQ4 예측 수평이 증가함에 따라(예: k=50, 100, 200) 모델 성능은 어떻게 저하되는가?
• RQ5 고주기 금융에서 표준 점 추정 모델 대비 딥러닝 프레임워크 내 분위수 회귀가 더 높은 강건성과 불확실성 정량화를 제공하는가?

주요 결과

• DeepLOB-QR는 장기 포지션 수익률에서 가장 낮은 MAE(0.701)와 MSE(0.462), 가장 높은 R²(0.010)를 기록하여 AR, GLR, SVR, MLP 기준선을 모두 능가했다.
• 예측 조합 버전인 DeepLOB-QR(C)는 장기 포지션에서 R²를 0.014로, 단기 포지션에서 0.015로 향상시켜 강건성 향상을 확인했다.
• 100단계 예측 수평에서 MAE 0.701, MSE 0.461을 유지하여 수평 간 안정성을 입증했다.
• 예측 수평이 길어질수록 성능 저하가 발생했으며(k=200), MAE는 0.701로 유지되었고 MeAE는 0.864로 상승하여 불확실성 증가를 시사했다.
• 그림 4에 시각화된 모델의 예측 구간은 진짜 수익률 분포를 효과적으로 포괄하였으며, 0.25 및 0.75 분위수는 중앙값 주변에 신뢰할 수 있는 밴드를 형성했다.
• 결과는 스프레드 변화에 의해 유도되는 비대칭 수익률 역학을 고려할 경우, 장·단기 포지션 수익률을 별도로 모델링하는 것이 필요하다는 점을 확인했다.