[논문 리뷰] Forecasting Cryptocurrency Returns from Sentiment Signals: An Analysis of BERT Classifiers and Weak Supervision

Duygu Ider, Stefan Lessmann|arXiv (Cornell University)|2022. 04. 06.

Stock Market Forecasting Methods인용 수 4

한 줄 요약

이 논문은 인간 레이블이 없는 텍스트 데이터 문제를 해결하기 위해 약한 감성 지도 학습을 통해 훈련된 BERT 기반 감성 분류기를 사용하여 암호화폐 수익률을 예측하는 새로운 프레임워크를 제안한다. 도메인 특화 재무 텍스트에 약한 레이블을 적용하고 BERT 모델을 미세조정함으로써 예측 정확도가 크게 향상되며, 이는 재무 NLP 응용 분야에 대한 방법의 일반화 가능성도 입증한다.

ABSTRACT

Anticipating price developments in financial markets is a topic of continued interest in forecasting. Funneled by advancements in deep learning and natural language processing (NLP) together with the availability of vast amounts of textual data in form of news articles, social media postings, etc., an increasing number of studies incorporate text-based predictors in forecasting models. We contribute to this literature by introducing weak learning, a recently proposed NLP approach to address the problem that text data is unlabeled. Without a dependent variable, it is not possible to finetune pretrained NLP models on a custom corpus. We confirm that finetuning using weak labels enhances the predictive value of text-based features and raises forecast accuracy in the context of predicting cryptocurrency returns. More fundamentally, the modeling paradigm we present, weak labeling domain-specific text and finetuning pretrained NLP models, is universally applicable in (financial) forecasting and unlocks new ways to leverage text data.

연구 동기 및 목표

• 암호화폐 예측을 위한 감성 분석에서 레이블이 부여된 재무 텍스트 데이터의 부족 문제를 해결하기 위해.
• 기본 지도 레이블이 제공되지 않을 경우 약한 지도 학습이 BERT 기반 분류기 훈련에 얼마나 효과적인지 평가하기 위해.
• 비정형 텍스트에서 파생된 감성 신호를 사용하여 암호화폐 수익률 예측 정확도를 향상시키기 위해.
• 약한 레이블 지정 및 미세조정 방법이 암호화폐 외의 다양한 재무 예측 작업으로 일반화되는 정도를 입증하기 위해.

제안 방법

• 해시태그 규칙과 사전 정의된 감성 어휘를 사용하여 약한 레이블을 적용하여 암호화폐 관련 텍스트에 대해 합성 레이블을 생성하기 위해.
• 약한 레이블이 부여된 재무 텍스트 코퍼스에 사전 훈련된 BERT 모델을 미세조정하여 도메인 특화 감성 표현을 학습하기 위해.
• 미세조정된 BERT 분류기를 사용하여 뉴스 기사와 소셜 미디어 게시물에서 감성 특징을 추출하기 위해.
• 추출된 감성 특징을 암호화폐 수익률에 대한 통계적 예측 모델에 통합하기 위해.
• 외부 테스트 데이터에서 R-제곱 및 방향 정확도와 같은 표준 지표를 사용하여 모델 성능 평가하기 위해.
• 약한 지도 학습 모델의 성능을 강한 지도 학습 기반 모델 및 기본 감성 모델과 비교하기 위해.

실험 결과

연구 질문

• RQ1 사람이 레이블링한 데이터가 없을 경우 약한 지도 학습이 재무 텍스트에 대해 신뢰할 수 있는 감성 레이블을 효과적으로 생성할 수 있는가?
• RQ2 약한 레이블이 부여된 재무 텍스트에 대해 BERT를 미세조정하면 암호화폐 수익률에 대한 감성 특징의 예측 능력이 향상되는가?
• RQ3 기본 지도 레이블이 없는 상황에서 약한 지도 학습 모델의 성능은 강한 지도 학습 기반 모델과 비교해 어떻게 되는가?
• RQ4 제안된 방법이 암호화폐 외의 다양한 재무 예측 작업으로 얼마나 일반화되는가?

주요 결과

• 약한 지도 학습을 적용한 BERT 모델은 R-제곱 및 방향 정확도 측면에서 기존 감성 모델 대비 암호화폐 수익률 예측에서 뚜렷한 성능 향상을 보였다.
• 약한 레이블이 부여된 데이터에 대해 BERT를 미세조정함으로써 감성 특징의 품질이 향상되어 예측 모델 내에서 더 유용한 예측 변수가 되었다.
• 골드 스탠다드 레이블이 없음에도 불구하고, 제안된 방법은 강한 지도 학습 기반 모델과 경쟁 가능한 성능을 달성하였다.
• 이 프레임워크는 강건성과 일반화 능력을 입증하여, 비정형 텍스트를 포함한 다른 재무 예측 작업에 적용 가능성이 있음을 시사한다.