[논문 리뷰] ATM Cash demand forecasting in an Indian Bank with chaos and deep learning

Vangala Sarveswararao, Vadlamani Ravi|arXiv (Cornell University)|2020. 08. 24.

Stock Market Forecasting Methods참고 문헌 35인용 수 6

한 줄 요약

이 연구는 인도의 상업은행에서 ATM 현금 수요를 예측하기 위해 혼돈 이론과 딥러닝을 융합한 하이브리드 접근법을 제안한다. 지연 및 임bedding 차원을 사용하여 상태공간을 재구성하고, 요일을 원-핫 인코딩된 특성으로 통합하며, LSTM 및 1D CNN와 같은 모델을 적용함으로써 예측 정확도를 향상시켰다. 딥러닝 모델은 t-검정과 SMAPE 지표에 의해 검증된 결과 랜덤 포레스트와 유사한 성능을 보였다.

ABSTRACT

This paper proposes to model chaos in the ATM cash withdrawal time series of a big Indian bank and forecast the withdrawals using deep learning methods. It also considers the importance of day-of-the-week and includes it as a dummy exogenous variable. We first modelled the chaos present in the withdrawal time series by reconstructing the state space of each series using the lag, and embedding dimension found using an auto-correlation function and Cao's method. This process converts the uni-variate time series into multi variate time series. The "day-of-the-week" is converted into seven features with the help of one-hot encoding. Then these seven features are augmented to the multivariate time series. For forecasting the future cash withdrawals, using algorithms namely ARIMA, random forest (RF), support vector regressor (SVR), multi-layer perceptron (MLP), group method of data handling (GMDH), general regression neural network (GRNN), long short term memory neural network and 1-dimensional convolutional neural network. We considered a daily cash withdrawals data set from an Indian commercial bank. After modelling chaos and adding exogenous features to the data set, we observed improvements in the forecasting for all models. Even though the random forest (RF) yielded better Symmetric Mean Absolute Percentage Error (SMAPE) value, deep learning algorithms, namely LSTM and 1D CNN, showed similar performance compared to RF, based on t-test.

연구 동기 및 목표

• 시간 지연 임베딩을 통해 최적의 지연 및 임베딩 차원을 자동상관관계 및 Cao의 방법으로 유도하여 단변량 ATM 현금 인출 시간열의 상태공간을 재구성함으로써 혼돈 역학을 모델링한다.
• 일주일 단위의 주기성을 반영하기 위해 요일을 원-핫 인코딩된 범주형 외생 변수로 통합함으로써 예측 정확도를 향상시킨다.
• 재구성된 및 증강된 데이터에 대해 ARIMA, RF, SVR, MLP, GMDH, GRNN, LSTM 및 1D CNN와 같은 다양한 모델의 성능을 평가한다.
• SMAPE 및 통계적 유의성 측면에서 딥러닝 모델(LSTM, 1D CNN)과 전통적 머신러닝 및 통계 모델 간의 성능을 비교한다.
• 혼돈 모델링 및 특성 공학이 모든 예측 모델에서 일관된 개선을 이끌어낸다는 것을 입증한다.

제안 방법

• 자기상관관계 및 Cao의 방법을 통해 유도된 최적의 지연 및 임베딩 차원을 사용하여 단변량 ATM 현금 인출 시간열의 상태공간을 시간 지연 임베딩을 통해 재구성한다.
• 상태공간 재구성을 통해 단변량 시계열을 다변량 시계열로 변환함으로써 잠재적인 결정론적 역학을 포착한다.
• 주간 주기성을 표현하기 위해 '요일'을 원-핫 인코딩을 통해 일곱 개의 이진 특성으로 변환한다.
• 다변량 시계열에 원-핫 인코딩된 요일 특성을 추가하여 더 풍부한 입력 표현을 만든다.
• 향상된 데이터셋에서 ARIMA, 랜덤 포레스트(RF), 서포트 벡터 리그레서(SVR), 다층 퍼셉트론(MLP), GMDH, GRNN, LSTM 및 1D CNN와 같은 다양한 모델을 훈련 및 평가한다.
• 모델 성능 비교 및 통계적 유의성 평가를 위해 대칭 평균 절대 퍼센트 오차(SMAPE) 및 대응 t-검정을 사용한다.

실험 결과

연구 질문

• RQ1 시간 지연 임베딩을 통해 최적의 지연 및 임베딩 차원을 유도함으로써 상태공간 재구성을 통해 ATM 현금 인출 패턴의 혼돈 역학을 효과적으로 모델링할 수 있는가?
• RQ2 원-핫 인코딩된 요일 특성을 통합함으로써 다양한 모델에서 예측 정확도가 향상되는가?
• RQ3 딥러닝 모델(LSTM 및 1D CNN)은 전통적 모델(RF, SVR, ARIMA)에 비해 ATM 현금 수요 예측에서 어떻게 성능을 내는가?
• RQ4 혼돈 모델링 및 특성 증강으로 인한 성능 향상은 다양한 알고리즘 간에 통계적으로 유의미한가?
• RQ5 LSTM 및 1D CNN는 SMAPE 및 통계적 유의성 측면에서 최고 성능을 보인 모델(RF)과 유사한 예측 정확도를 달성하는가?

주요 결과

• 상태공간 재구성을 통한 혼돈 모델링의 통합은 모든 테스트된 모델에서 예측 성능을 크게 향상시켰다.
• 원-핫 인코딩된 요일 특성의 통합은 주간 패턴을 더 잘 포착함으로써 모델 정확도를 향상시켰다.
• 랜덤 포레스트(RF)가 가장 낮은 대칭 평균 절대 퍼센트 오차(SMAPE)를 기록하여 모든 테스트된 모델 중에서 가장 뛰어난 예측 정확도를 보였다.
• 장기적 단기 기억(LSTM) 및 1차원 컨volution 신경망(1D CNN) 모델은 대응 t-검정 결과 통계적으로 유의미한 차이 없이 RF와 유사한 성능을 보였다.
• 혼돈 모델링과 외생 특성 공학의 조합은 모든 알고리즘에서 일관된 예측 정확도 향상을 이끌어내어 제안된 방법론의 타당성을 입증했다.
• 이 연구는 특히 혼돈 기반 특성으로 향상된 딥러닝 모델, 특히 LSTM 및 1D CNN가 전통적 모델에 비해 ATM 현금 수요 예측에서 강력한 대안이 될 수 있음을 확인한다.