[논문 리뷰] BDLOB: Bayesian Deep Convolutional Neural Networks for Limit Order Books

Zihao Zhang, Stefan Zohren외 1명|arXiv (Cornell University)|2018. 11. 25.

Stock Market Forecasting Methods참고 문헌 6인용 수 3

한 줄 요약

이 논문은 한정주문서(Limit Order Book, LOB) 데이터로부터 단기 가격 움직임을 예측하기 위해 드롭아웃 변분 추론을 사용하는 베이지안 딥 컨볼루션 신경망인 BDLOB을 제안한다. 몬테카를로 드롭아웃을 통한 불확실성 추정을 활용하여 BDLOB는 예측 성능을 향상시키고, 비베이지안 모델에 비해 더 높은 수익성과 낮은 리스크를 가진 리스크 인식 트레이딩 전략을 가능하게 한다.

ABSTRACT

We showcase how dropout variational inference can be applied to a large-scale deep learning model that predicts price movements from limit order books (LOBs), the canonical data source representing trading and pricing movements. We demonstrate that uncertainty information derived from posterior predictive distributions can be utilised for position sizing, avoiding unnecessary trades and improving profits. Further, we test our models by using millions of observations across several instruments and markets from the London Stock Exchange. Our results suggest that those Bayesian techniques not only deliver uncertainty information that can be used for trading but also improve predictive performance as stochastic regularisers. To the best of our knowledge, we are the first to apply Bayesian networks to LOBs.

연구 동기 및 목표

• 한정주문서(LOB) 예측에 베이지안 딥 러닝을 통합하여 불확실성 정량화를 향상시키기.
• 드롭아웃 기반 변분 추론이 LOB 모델링에서 예측 정확도와 일반화 능력을 향상시키는지 평가하기.
• 모델의 불확실성 정보를 활용해 동적 포지션 사이징과 거래 시점 결정을 위한 트레이딩 전략을 설계하고 테스트하기.
• 불확실성 인식 전략이 수익성과 리스크 조정 수익 측면에서 기존 접근 방식을 능가하는지 입증하기.
• 베이지안 신경망을 한정주문서 데이터에 적용한 첫 번째 사례를 확립하기.

제안 방법

• 모델는 원시 LOB 데이터의 시간적 및 공간적 특징을 추출하기 위해 인셉션 모듈과 LSTMs를 갖춘 딥 컨볼루션 아키텍처(DeepLOB)를 사용한다.
• 몬테카를로 드롭아웃을 통해 드롭아웃 변분 추론을 적용하여, 여러 번의 전방 전파를 통해 드롭된 뉴런을 통해 사후 예측 분포를 추정한다.
• 인셉션 모듈 뒤에 드롭아웃 비율 0.2를 적용하였으며, 불확실성 추정을 校정하기 위해 그리드 서치를 사용하였다.
• 콘crete 드롭아웃도 컨볼루션 레이어에 테스트하였지만, 대규모 데이터셋과 파라미터 공유로 인해 모든 비율이 0으로 수렴하였다.
• 소프트맥스 확률과 불확실성 인식 임계값을 사용하여 포지션 사이징과 진입/청산 결정을 제어하는 트레이딩 전략을 설계하였다.
• 베이지안 트레이딩 전략은 수익과 리스크를 균형 잡기 위한 하이퍼파rameter α(신뢰도 임계값)와 β1, β2(리스크 제어)를 사용하였으며, 경험적 분 析를 통해 α=0.7, β1=0.1, β2=0.9로 선택되었다.

실험 결과

연구 질문

• RQ1 드롭아웃 변분 추론은 한정주문서 데이터에 대한 딥 러닝 모델의 예측 성능을 향상시킬 수 있는가?
• RQ2 베이지안 딥 러닝에서 유도된 불확실성 추정은 트레이딩 전략 설계를 향상시키는 데 어떻게 활용될 수 있는가?
• RQ3 포지션 사이징에 불확실성 정보를 통합할 경우, 표준 분류 기반 전략에 비해 더 높은 리스크 조정 수익을 달성할 수 있는가?
• RQ4 베이지안 트레이딩 전략의 다양한 하이퍼파rameter는 수익성과 리스크 노출에 어떤 영향을 미치는가?
• RQ5 제안된 베이지안 접근 방식은 한정주문서 예측에 베이지안 신경망을 성공적으로 적용한 첫 번째 사례인가?

주요 결과

• BDLOB는 F1 스코어 0.60과 AUC 0.811을 기록하여 베이스라인 CNN(F1: 0.48, AUC: 0.672)과 DeepLOB5(F1: 0.58, AUC: 0.803)를 모두 앞서며 성능을 뛰어넘었다.
• 불확실성 정보를 활용한 베이지안 트레이딩 전략은 비베이지안 전략보다 더 높은 정규화된 일일 수익과 더 나은 내림차순 변동비율(DDR)을 기록하였다.
• BDLOB는 일일 정확도에서 더 좁은 사분위간 범위와 적은 이상치를 보이며, 테스트 주식 전반에서 더 일관된 성능을 보였다.
• 더 높은 α 값(예: 0.8 또는 0.9)은 거래 횟수가 줄어들고 예측 오류에 더 민감해져 더 큰 리스크 또는 낮은 수익을 초래한다.
• β2의 선택은 리스크와 수익에 크게 영향을 미친다: 낮은 β2는 수익을 늘리지만 리스크도 증가시키고, 높은 β2는 악성 거래에 대한 노출을 줄이지만 유망한 기회를 놓칠 수 있다.
• 모델는 드롭아웃이 대규모 LOB 데이터에서 일반화 능력과 예측 성능을 향상시키는 스토하스틱 정규화 기법으로 작용함을 입증하였다.