[논문 리뷰] TI-Capsule: Capsule Network for Stock Exchange Prediction

Ramin Mousa, Sara Nazari외 4명|arXiv (Cornell University)|2021. 02. 15.

Stock Market Forecasting Methods참고 문헌 42인용 수 6

한 줄 요약

이 논문은 재무 텍스트 감성과 캔들스틱 차트 이미지를 융합하여 EUR/USD 환율 움직임을 예측하는 다중모달 캡슐 네트워크인 TI-Capsule을 제안한다. 캡슐 네트워크의 동적 라우팅과 주의 메커니즘을 활용하여 공간적 관계와 특징 계층을 유지함으로써, 모델은 자체 제작 데이터셋에서 91%의 정확도를 달성하였으며, 주식 예측 과제에서 기존 모델을 능가한다.

ABSTRACT

Today, the use of social networking data has attracted a lot of academic and commercial attention in predicting the stock market. In most studies in this area, the sentiment analysis of the content of user posts on social networks is used to predict market fluctuations. Predicting stock marketing is challenging because of the variables involved. In the short run, the market behaves like a voting machine, but in the long run, it acts like a weighing machine. The purpose of this study is to predict EUR/USD stock behavior using Capsule Network on finance texts and Candlestick images. One of the most important features of Capsule Network is the maintenance of features in a vector, which also takes into account the space between features. The proposed model, TI-Capsule (Text and Image information based Capsule Neural Network), is trained with both the text and image information simultaneously. Extensive experiments carried on the collected dataset have demonstrated the effectiveness of TI-Capsule in solving the stock exchange prediction problem with 91% accuracy.

연구 동기 및 목표

• 다중모달 데이터—재무 텍스트와 캔들스틱 이미지—를 하나의 딥러닝 프레임워크에 통합하여 주식 거래 예측 정확도를 향상시키는 것.
• 기존 모델이 금융 시계열과 텍스트 감성에서 계층적 공간적 관계와 동적 특징 상호작용을 포착하는 데 한계를 보이는 문제를 해결하는 것.
• 캡슐 네트워크가 벡터 기반 표현을 통해 공간적 관계와 주의를 유지할 수 있는 능력을 재무 예측에 적용해 효과성을 탐색하는 것.
• 외환 시장에서 텍스트 감성과 시각적 가격 패턴을 동시에 학습할 수 있는 통합 아키텍처를 개발하는 것.

제안 방법

• TI-Capsule 모델은 이중 브랜치 인코더를 활용한다: 하나의 브랜치는 BERT 기반 임베딩을 사용해 재무 텍스트를 감성 분석하고, 다른 브랜치는 컨볼루션 레이어를 통해 캔들스틱 이미지를 처리한다.
• 캡슐 네트워크는 텍스트 및 시각적 특징을 공간적 관계와 주의 동역학을 유지하는 벡터 표현으로 인코딩한다.
• 동적 라우팅이 캡슐 간의 레이어 간 경로 전달에 적용되어, 모odal 특성 표현 간의 계층적 주의와 특징 관계를 학습할 수 있도록 한다.
• 최종 분류 이전에 텍스트 및 이미지 브랜치의 출력 벡터를 후기 융합 전략으로 통합하며, 마진 손실 함수를 사용한다.
• 모델은 사회적 미디어 감성과 역사적 캔들스틱 패턴을 포함한 자체 제작된 EUR/USD 시장 데이터셋을 기반으로 엔드 투 엔드로 훈련된다.
• 주목적 메커니즘이 캡슐 라우팅 과정에 통합되어 텍스트 및 이미지 모달 간의 주요 특징을 강조한다.

실험 결과

연구 질문

• RQ1 캡슐 네트워크는 텍스트 감성과 시각적 가격 패턴을 포함한 다중모달 재무 데이터를 효과적으로 융합하여 주식 예측 성능을 향상시킬 수 있는가?
• RQ2 캡슐 네트워크가 공간적 관계와 특징 계층을 유지할 수 있는 능력은 기존의 RNN 또는 CNN과 비교해 예측 성능 향상에 어떻게 기여하는가?
• RQ3 텍스트와 이미지 모달 간의 공동 학습이 외환 환율 방향 예측 정확도 향상에 어느 정도 기여하는가?
• RQ4 캡슐 내 동적 라우팅과 벡터 기반 표현을 활용할 경우, 변동성이 큰 금융 시장에서 더 강건하고 일반화된 예측이 가능해지는가?

주요 결과

• TI-Capsule 모델은 EUR/USD 환율 방향 예측에서 91%의 정확도를 달성하여 기준 모델을 뛰어넘었다.
• 텍스트 및 이미지 모달을 모두 통합한 결과, 단일 텍스트 또는 시각적 입력을 사용하는 모델 대비 정확도가 12% 향상되었다.
• 캡슐 네트워크는 공간적 관계와 계층적 레이어 간 동적 주의를 유지함으로써 뛰어난 특징 표현 능력을 보였다.
• 모델의 동적 라우팅 메커니즘은 금융 데이터의 장거리 종속성과 주의 패턴을 효과적으로 포착하여 일반화 능력을 향상시켰다.
• 제거 실험(ablation study) 결과, 텍스트 및 이미지 브랜치 모두 최종 예측에 기여했으며, 특히 이미지 브랜치가 약간 더 큰 영향을 미쳤다.
• 모델는 노이즈가 많은 입력에도 불구하고 높은 성능을 유지하며, 감성과 가격 패턴 조건이 변화하더라도 안정적인 성능을 보였다.