[논문 리뷰] Deep Adaptive Input Normalization for Price Forecasting using Limit Order Book Data

Nikolaos Passalis, Anastasios Tefas외 3명|arXiv (Cornell University)|2019. 01. 01.

Stock Market Forecasting Methods인용 수 5

한 줄 요약

이 논문은 딥러닝 모델이 한정된 주문서 시계열 데이터의 비정상적이고 다중모드적인 분포를 동적으로 고려할 수 있도록, 엔드투엔드로 미분 가능한 방식으로 데이터를 정규화하는 딥 어댑티브 입력 정규화 레이어를 제안한다. 이는 가격 예측 성능을 향상시키며, 대규모 금융 데이터셋에서 딥러닝 모델의 정확도를 크게 향상시킨다.

ABSTRACT

Deep Learning (DL) models can be used to tackle time series analysis tasks with great success. However, the performance of DL models can degenerate rapidly if the data are not appropriately normalized. This issue is even more apparent when DL is used for financial time series forecasting tasks, where the non-stationary and multimodal nature of the data pose significant challenges and severely affect the performance of DL models. In this work, a simple, yet effective, neural layer, that is capable of adaptively normalizing the input time series, while taking into account the distribution of the data, is proposed. The proposed layer is trained in an end-to-end fashion using back-propagation and can lead to significant performance improvements. The effectiveness of the proposed method is demonstrated using a large-scale limit order book dataset.

연구 동기 및 목표

• 비정상적이고 다중모드적인 데이터 분포로 인한 딥러닝 모델의 성능 저하 문제를 해결하기 위해.
• 학습 중에 입력 데이터 분포에 적응하는 트레이너블하고 신경망과 호환되는 정규화 레이어를 개발하기 위해.
• 고정된 전처리 방법 대신 정규화를 딥러닝 파이프라인에 직접 통합함으로써 가격 예측 정확도를 향상시키기 위해.
• 실제로 큰 규모의 한정된 주문서 데이터셋에서 제안된 레이어의 효과성을 입증하기 위해.

제안 방법

• 제안된 방법은 주요 딥러닝 모델 이전에 삽입되는 학습 가능한 정규화 레이어를 도입하며, 입력 특징이 현재 분포에 따라 조정된다.
• 학습 중에는 배치 통계를 사용하고, 역전파를 통해 적응함으로써 정규화 과정을 엔드투엔드로 최적화할 수 있다.
• 채널별 또는 특징별로 정규화가 수행되며, 평균과 분산을 미분 가능하게 조정하여 기울기 흐름을 유지한다.
• 다양한 시계열 예측에 사용되는 딥러닝 아키텍처와의 경량성 및 호환성을 고려해 설계되었다.
• 예측 모델과 함께 공동으로 학습되어, 특정 작업에 최적화된 정규화 전략을 네트워크가 학습할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 학습 가능한 정규화 레이어는 비정상적이고 다중모드적인 금융 시계열 데이터에서 딥러닝 성능을 향상시킬 수 있는가?
• RQ2 한정된 주문서 가격 예측에서 적응형 정규화는 고정된 정규화 기법보다 어떻게 비교되는가?
• RQ3 정규화의 엔드투엔드 학습이 예측 정확도 향상에 얼마나 기여하는가?
• RQ4 제안된 레이어는 금융 예측에 사용되는 다양한 딥러닝 아키텍처에 일반화되는가?

주요 결과

• 제안된 적응형 정규화 레이어는 기존의 표준 정규화 기법에 비해 가격 예측 정확도 향상에 뚜렷한 성능 향상을 이끌어냈다.
• 레이어는 한정된 주문서 데이터의 비정상적이고 다중모드적인 특성을 효과적으로 처리하여, 분포 이탈에 대한 모델 민감도를 감소시켰다.
• 정규화 레이어의 엔드투엔드 학습은 더 나은 일반화 능력과 더 안정적인 학습 동역학을 제공했다.
• 실제로 대규모 실생활 한정된 주문서 데이터셋에서 측정 가능한 성능 향상을 달성하여 실용적 유용성을 입증했다.