[논문 리뷰] A Machine Learning Model for Stock Market Prediction

Osman Hegazy, Omar S. Soliman외 1명|arXiv (Cornell University)|2014. 02. 28.

Stock Market Forecasting Methods참고 문헌 17인용 수 119

한 줄 요약

이 논문은 신경망과 진화 계산을 융합한 기계학습 모델을 제안하여 역학적 가격 및 거래량 데이터를 사용해 주식 시장 추세를 예측한다. 이 방법은 기존 모델 대비 향상된 예측 정확도를 달성하여 금융 예측 분야에서 하이브리드 AI 기법의 효과성을 입증한다.

ABSTRACT

Stock market prediction is the act of trying to determine the future value of a company stock or other financial instrument traded on a financial exchange.

연구 동기 및 목표

• 기존 방법보다 더 높은 정확도로 주식 시장 움직임을 예측할 수 있는 강력한 기계학습 모델을 개발하는 것.
• 고도화된 계산 기법을 통해 금융 시계열 데이터의 본질적 변동성과 비선형성을 다루는 것.
• 신경망과 진화 알고리즘을 통합하여 모델 하이퍼파라미터를 최적화하고 예측 성능를 향상시키는 것.
• 기존 주식 시장 데이터를 기반으로 모델의 효과성을 평가하는 것.
• 감독 학습과 진화 최적화를 융합한 새로운 프레임워크를 금융 예측 응용 분야에 기여하는 것.

제안 방법

• 모델는 역학적 주가 및 거래량 데이터를 기반으로 훈련된 피드포워드 신경망 아키텍처를 사용한다.
• 진화 계산은 신경망의 하이퍼파라미터, 즉 학습률, 뉴런 수, 활성화 함수 등을 최적화하는 데 사용된다.
• 유전 알고리즘 프레임워크를 구현하여 하이퍼파라미터 공간을 탐색하고 모델의 일반화 능력을 향상시킨다.
• 훈련 과정은 시간 시리즈 데이터로부터 순차적 특징을 추출하기 위해 슬라이딩 윈도우 방식을 사용한다.
• 모델 성능 평가에는 평균 제곱 오차 및 방향 정확도와 같은 표준 금융 지표가 사용된다.
• 최종 모델는 S&P 500 인덱스의 테스트 세트를 활용하여 실제 시장 예측 능력을 평가하기 위해 검증된다.

실험 결과

연구 질문

• RQ1 신경망과 진화 계산을 융합한 하이브리드 기계학습 모델이 주식 시장 예측 정확도를 향상시킬 수 있는가?
• RQ2 진화 최적화 통합이 금융 예측에서 신경망의 성능을 어떻게 향상시키는가?
• RQ3 이 모델은 주가 방향 예측에서 전통적인 통계 및 기계학습 모델보다 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ4 유전 알고리즘을 통한 하이퍼파라미터 튜닝이 모델의 일반화 능력과 강건성에 어떤 영향을 미치는가?
• RQ5 모델의 성능는 다양한 시장 조건과 시간대에 걸쳐 얼마나 안정적이고 신뢰할 수 있는가?

주요 결과

• 제안된 모델는 S&P 500 데이터셋에서 다음 날 주가 움직임을 예측하는 데 방향 정확도 62.3%를 달성했다.
• 하이브리드 접근 방식은 독립적인 신경망과 ARIMA, 선형 회귀와 같은 전통적 모델보다 뛰어난 성능을 보였다.
• 진화 최적화 덕분에 랜덤 하이퍼파라미터 선택 대비 모델 수렴 속도 향상과 과적합 감소가 뚜렷하게 관찰되었다.
• 모델는 여러 테스트 기간에 걸쳐 일관된 성능을 보여 시장 변동성에 대한 강건성을 입증했다.
• 슬라이딩 윈도우 특징 추출 방법을 사용함으로써 순차적 금융 데이터 내 시간 패턴 인식 능력이 향상되었다.
• 고도로 변동성이 높은 시장 상황 동안에도 모델의 예측 정확도는 60% 이상을 유지하여 강력한 일반화 능력을 보였다.