[논문 리뷰] Stock Chart Pattern recognition with Deep Learning

Marc Velay, Fabrice Daniel|arXiv (Cornell University)|2018. 08. 01.

Stock Market Forecasting Methods참고 문헌 6인용 수 14

한 줄 요약

이 논문은 역사적 가격 데이터에서 일반 주식 차트 패턴(하락장 깃발, 이중 고점, 이중 저점)을 탐지하기 위해 1D CNN, 2D CNN 및 LSTM을 포함한 딥러닝 모델을 평가한다. 수작업으로 정제된 레이블이 부여된 데이터셋을 사용하여, LSTM 모델이 가장 높은 탐지 정확도와 일반화 능력을 보이며, 하드코딩된 알고리즘과 CNN 기반 접근 방식보다 뛰어나다. 특히 흐린 신호를 가진 희박한 입력 데이터에서 성능이 떨어지는 경향이 있다.

ABSTRACT

This study evaluates the performances of CNN and LSTM for recognizing common charts patterns in a stock historical data. It presents two common patterns, the method used to build the training set, the neural networks architectures and the accuracies obtained.

연구 동기 및 목표

• 주식 가격 시계열에서 일반적인 기술적 분석 차트 패턴의 자동 탐지를 목적으로 한다.
• 딥러닝 모델(CNN, LSTM)의 성능 및 일반화 능력을 하드코딩된 규칙 기반 알고리즘과 비교한다.
• 딥러닝이 잘못된 패턴 탐지(가짜 양성)를 유지하면서도 잘못된 패턴 누락(가짜 음성)을 줄일 수 있는지 평가한다.
• 희박하고 노이즈가 많은 금융 시계열 데이터에서 패턴 인식을 위한 딥러닝의 가능성 여부를 조사한다.
• 다중 작업 학습 및 데이터 전처리 기법(예: 오토에인코더)이 다양한 주식에 걸쳐 모델의 강건성 향상에 기여할 수 있는지 탐색한다.

제안 방법

• 학습 및 평가를 위한 일관되고 고도의 정확도를 확보하기 위해 하드코딩된 알고리즘을 사용해 레이블이 부여된 차트 패턴 데이터셋을 구축했다.
• 2D CNN(가격 차트의 이미지 표현 방식), 1D CNN(원시 시계열 데이터), LSTM(순차적 가격 데이터)을 사용해 세 가지 딥러닝 모델을 훈련시켰다.
• CNN의 경우 희박한 입력과 데이터 내 신호가 적은 데 따른 민감성으로 인해, 하이퍼파라미터 최적화를 위해 그리드 서치를 사용했다.
• 혼동 행렬 및 성능 지표를 계산하기 전에 수작업으로 잘못된 양성 및 잘못된 음성을 검토하고 수정했다.
• 일반화 능력을 평가하기 위해 하드코딩된 기준 대비 탐지율을 비교했으며, 주로 재현율과 잘못된 음성 비율을 중심으로 분석했다.
• 2D CNN 및 LSTM 모델의 특징 학습 능력을 향상시키기 위해 입력 데이터의 노이즈를 줄이고 패턴 표현을 강화하기 위해 오토에인코더를 활용한 잠재적 향상 방안을 탐색했다.

실험 결과

연구 질문

• RQ1 딥러닝 모델이 재현율과 일반화 능력 측면에서 하드코딩된 규칙 기반 시스템보다 공통 주식 차트 패턴을 더 효과적으로 탐지할 수 있는가?
• RQ2 희박하고 노이즈가 많은 OHLC 데이터에서 2D CNN, 1D CNN 및 LSTM 아키텍처는 차트 패턴 탐지에 어떻게 비교되는가?
• RQ3 딥러닝 모델은 하드코딩된 탐지기에서 정의된 정확한 파rameter 범위를 초월해 어느 정도 일반화할 수 있는가?
• RQ4 한 주식에서 훈련된 모델이 다른 주식으로도 일반화되는가, 아니면 훈련 데이터셋에 매우 의존적인가?
• RQ5 오토에인코더와 같은 데이터 전처리 기법이 노이즈를 줄이고 패턴 표현을 강화함으로써 탐지 정확도를 향상시킬 수 있는가?

주요 결과

• LSTM 모델이 0.64의 가장 높은 재현율을 기록했으며, 1D 및 2D CNN은 희박한 입력 데이터로 인해 높은 정확도를 확보하지 못했다.
• 2D CNN는 차트 이미지 내 비제로 픽셀의 희박성으로 인해 심각한 성능 저하를 겪었으며, 의미 있는 공간적 특징을 학습하기 어려웠다.
• 1D CNN 역시 동일한 데이터 희박성과 원시 시계열에서의 강력한 특징 학습 부족으로 인해 성능이 열등했다.
• 하드코딩된 알고리즘은 거의 0%의 잘못된 양성률을 기록했지만, 높은 잘못된 음성률을 보이며 일반화 능력이 떨어졌다.
• LSTM 모델은 부분적인 일반화 능력을 보였으며, 하드코딩된 경계를 略로 초월하는 일부 패턴을 탐지했지만 여전히 1.2%의 오류율을 기록했다.
• 다른 주식 간 모델 이식성은 열악했으며, 다중 데이터셋 사전 훈련 없이선 모델이 일반화가 잘 되지 않을 가능성이 높다는 것을 시사했다.