[論文レビュー] Financial sentiment analysis using FinBERT with application in predicting stock movement

Tingsong Jiang, Andy Zeng|arXiv (Cornell University)|Jun 3, 2023

Stock Market Forecasting Methods被引用数 5

ひとこと要約

本稿では、アクティブラーニングを用いたFinBERTベースのセンチメント分析モデルにLSTMを組み合わせ、株価の予測を行う手法を提案している。金融ニュースからのセンチメントが、従来のARIMAおよび単体のLSTMモデルに比べ、予測精度を顕著に向上させることを示している。FinBERT+LSTMモデルは、最小の損失と最高の性能を達成し、センチメントが短期市場動向の重要な予測要因であることを裏付けている。

ABSTRACT

In this study, we integrate sentiment analysis within a financial framework by leveraging FinBERT, a fine-tuned BERT model specialized for financial text, to construct an advanced deep learning model based on Long Short-Term Memory (LSTM) networks. Our objective is to forecast financial market trends with greater accuracy. To evaluate our model's predictive capabilities, we apply it to a comprehensive dataset of stock market news and perform a comparative analysis against standard BERT, standalone LSTM, and the traditional ARIMA models. Our findings indicate that incorporating sentiment analysis significantly enhances the model's ability to anticipate market fluctuations. Furthermore, we propose a suite of optimization techniques aimed at refining the model's performance, paving the way for more robust and reliable market prediction tools in the field of AI-driven finance.

研究の動機と目的

• ニュースの見出しから抽出した金融センチメントが、短期株価動向を効果的に予測できるかどうかを調査すること。
• センチメントおよび時系列データを用いて、ARIMA、FinBERT、BERT、LSTMモデルのパフォーマンスを比較すること。
• 金融分野特化型事前学習（FinBERT）と汎用モデル（BERT）の金融センチメント分析における有効性を評価すること。
• 現在のモデルの限界、例えば、個別株式データセットが小さいことによる長期的予測の不足と過学習の問題を特定すること。
• 今後の改善策として、データ拡張、ドメインファインチューニング、ソーシャルメディアのセンチメント統合の可能性を検討すること。

提案手法

• 12年間にわたり800社以上の米国企業のニュース記事の見出しと本文を含む金融ニュースデータセットを用いて、事前学習済みのFinBERTモデルを微調整する。
• 分類ヘッドを用いて、文単位のセンチメントスコアをFinBERTから抽出し、センチメントを回帰または分類ターゲットとして扱う。
• 時間的依存関係をモデル化するため、センチメントスコアを双方向LSTMネットワークに入力する。
• 日付ごとの90-10の時系列分割を用い、正規化のためのMinMaxスケーリングを終値および始値に適用して、モデルを訓練する。
• 標準的な回帰指標（MSE、MAE、RMSE）を用いて、ARIMA、BERT+LSTM、および単体のLSTMベースラインと比較して、モデルのパフォーマンスを評価する。
• モデルの汎化性能を向上させるために、フィルタリング、日付ベースの分割、クラス不均衡の処理を含むデータ前処理を実施する。

Figure 1: A plot of MSFT closing price

実験結果

リサーチクエスチョン

• RQ1 FinBERTを用いて抽出した金融センチメントは、従来の時系列モデルに比べ、株価動向予測の精度を向上させることができるか？
• RQ2 ドメイン特化型事前学習を経たFinBERTは、汎用的BERTに比べ、金融ニュースのセンチメント分析で優れているか？
• RQ3 FinBERTのセンチメントスコアとLSTMの組み合わせは、単体のLSTMやARIMAに比べ、株式リターンの予測において優れているか？
• RQ4 現在のモデルは、個別株式データセットが小さいことによる長期トレンドの捉えにくさや過学習の問題をどのように抱えているか？
• RQ5 ニュースの見出しからのセンチメントのみで市場動向を予測できる程度は何か？また、ソーシャルメディアやマルチソースデータの統合により、どのような改善が可能か？

主な発見

• FinBERT + LSTMモデルは、ARIMA、BERT + LSTM、および単体のLSTMモデルに比べ、訓練損失および検証損失が最小であった。
• ARIMAは長期トレンドの捉え方には優れていた（MSE: 0.00975、MAE: 0.07154、RMSE: 0.09876）、が、短期的な変動には対応できなかった。
• FinBERT + LSTMモデルは短期的な市場動向のフィッティングに優れており、センチメントが近い将来の価格変動を強く予測する要因であることを示している。
• ドメイン適応が施されていながらも、FinBERTはBERTに顕著に優れていないことが判明し、全データセットでのさらなる微調整の余地があると考えられる。
• 長期的には、モデルが終値を一貫して低予測していたため、ARIMAの事前処理を組み合わせたハイブリッドアプローチの導入が求められる。
• 個別株式のデータが限られていること（例：MSFTについては処理後約1,440行）が原因で過学習が生じたため、データ拡張やマルチストックモデリングの導入が不可欠である。

Figure 2: A plot of rolling mean and standard deviation for MSFT closing price