[論文レビュー] Forecasting Cryptocurrency Returns from Sentiment Signals: An Analysis of BERT Classifiers and Weak Supervision

Duygu Ider, Stefan Lessmann|arXiv (Cornell University)|Apr 6, 2022

Stock Market Forecasting Methods被引用数 4

ひとこと要約

本稿では、弱い監視による訓練を用いて、ラベルなしテキストデータの課題を克服する、暗号通貨リターンを予測するための新規フレームワークを提案する。ドメイン特化型の金融テキストに対して弱いラベル付けを適用し、BERTモデルを微調整することで、予測精度が顕著に向上し、金融NLP応用への一般化可能性が示された。

ABSTRACT

Anticipating price developments in financial markets is a topic of continued interest in forecasting. Funneled by advancements in deep learning and natural language processing (NLP) together with the availability of vast amounts of textual data in form of news articles, social media postings, etc., an increasing number of studies incorporate text-based predictors in forecasting models. We contribute to this literature by introducing weak learning, a recently proposed NLP approach to address the problem that text data is unlabeled. Without a dependent variable, it is not possible to finetune pretrained NLP models on a custom corpus. We confirm that finetuning using weak labels enhances the predictive value of text-based features and raises forecast accuracy in the context of predicting cryptocurrency returns. More fundamentally, the modeling paradigm we present, weak labeling domain-specific text and finetuning pretrained NLP models, is universally applicable in (financial) forecasting and unlocks new ways to leverage text data.

研究の動機と目的

• 暗号通貨予測のための感情分析において、ラベル付き金融テキストデータの不足に対処すること。
• 真のラベルが入手不可である状況下で、弱い監視がBERTベースの分類器の訓練にどの程度有効であるかを評価すること。
• 非構造化テキストから得られる感情信号を用いて、暗号通貨リターン予測の精度を向上させること。
• 弱いラベル付けと微調整のアプローチが、金融予測タスク全般に一般化可能であることを示すこと。

提案手法

• ヒューリスティックルールと事前定義された感情リソースを用いて、暗号通貨関連テキストに対して弱いラベルを生成する。
• 弱いラベルが付与された金融テキストコーパス上で事前学習済みBERTモデルを微調整し、ドメイン特化型の感情表現を学習する。
• 微調整済みBERT分類器を用いて、ニュース記事やSNS投稿から感情特徴を抽出する。
• 抽出された感情特徴を、暗号通貨価格リターンの統計的予測モデルに統合する。
• 出発サンプルテストデータにおけるR-squaredや方向的正確性といった標準的指標を用いて、モデルのパフォーマンスを評価する。
• 弱い監視に基づくモデルのパフォーマンスを、強い監視ベースのベースラインと感情モデルベースラインと比較する。

実験結果

リサーチクエスチョン

• RQ1 人為的アノテーションデータが存在しない状況下で、弱い監視が信頼性の高い感情ラベルを効果的に生成できるか？
• RQ2 弱いラベルが付与された金融テキスト上でBERTを微調整することで、暗号通貨リターンの予測力が向上する感情特徴が得られるか？
• RQ3 真のラベルが存在しない状況で、弱い監視に基づくモデルのパフォーマンスは、強い監視で訓練されたモデルと比べてどの程度か？
• RQ4 提案手法は、暗号通貨にとどまらず、他の金融予測タスクに対してもどの程度一般化可能か？

主な発見

• 弱い監視に基づくBERTモデルは、ベースラインの感情モデルと比較して、R-squaredと方向的正確性の両面で顕著に優れた性能を示した。
• 弱いラベルが付与されたデータ上でBERTを微調整することで、感情特徴の質が向上し、予測モデルにおける情報量の多い予測変数が得られた。
• ゴールスタンダードラベルが存在しないにもかかわらず、本手法は強い監視で訓練されたモデルと比較して競争力のあるパフォーマンスを達成した。
• 本フレームワークは、頑健性と一般化可能性を示しており、非構造化テキストを含む他の金融予測タスクへの応用可能性を示唆している。