[論文レビュー] Ploutos: Towards interpretable stock movement prediction with financial large language model

Hanshuang Tong, Jun Li+4 more|arXiv (Cornell University)|Feb 18, 2024

Stock Market Forecasting Methods被引用数 6

ひとこと要約

Ploutos は テキストと数値データを融合し、適応的エキスパート重み付けを用いて株価の動向を予測し、信頼性が高く、有益な根拠を生成するマルチモーダル金融LLMフレームワーク（PloutosGen および PloutosGPT）を導入します。

ABSTRACT

Recent advancements in large language models (LLMs) have opened new pathways for many domains. However, the full potential of LLMs in financial investments remains largely untapped. There are two main challenges for typical deep learning-based methods for quantitative finance. First, they struggle to fuse textual and numerical information flexibly for stock movement prediction. Second, traditional methods lack clarity and interpretability, which impedes their application in scenarios where the justification for predictions is essential. To solve the above challenges, we propose Ploutos, a novel financial LLM framework that consists of PloutosGen and PloutosGPT. The PloutosGen contains multiple primary experts that can analyze different modal data, such as text and numbers, and provide quantitative strategies from different perspectives. Then PloutosGPT combines their insights and predictions and generates interpretable rationales. To generate accurate and faithful rationales, the training strategy of PloutosGPT leverage rearview-mirror prompting mechanism to guide GPT-4 to generate rationales, and a dynamic token weighting mechanism to finetune LLM by increasing key tokens weight. Extensive experiments show our framework outperforms the state-of-the-art methods on both prediction accuracy and interpretability.

研究の動機と目的

• テキストデータと数値市場データを統合して、解釈可能な株価動向予測を動機づける。
• 多様な信号を提供するモジュール型エキスパートプール（感情、テクニカル、ヒューマン）を開発する。
• 毎日のデータをファインチューニングされたLLM を用いて、意思決定の透明な根拠を生成する。

提案手法

• PloutosGen を、マルチモーダル株データを分析する多様なエキスパートのパイプラインとして提案する。
• 過去のケースから忠実な根拠を収集するために rearview-mirror prompting を用いた PloutosGPT を導入する。
• 重要な根拠トークンを強調して LLM をファインチューニングするために動的トークン重み付けを適用する。
• 根拠の品質を評価するために忠実さと情報性の指標を定義する。

実験結果

リサーチクエスチョン

• RQ1 RQ1: Ploutos は現在の LLM ベースおよび従来の予測モデルと比較してどの程度の性能を示すか。
• RQ2 RQ2: Ploutos の異なるコンポーネントは予測効果にどのように影響するか。
• RQ3 RQ3: 生成された意思決定の根拠は忠実で情報量が豊富か。

主な発見

モデル	ACL18 Acc	ACL18 MCC	CIKM18 Acc	CIKM18 MCC
ARIMA	51.42	-0.021	52.36	-0.012
Adv-LSTM	57.24	0.148	56.48	0.016
StockNet	58.23	0.081	56.37	0.023
DTML	57.44	0.191	58.62	0.045
GPT-4	53.08	0.023	57.44	0.034
LLaMA-2 - 7B	52.74	0.051	56.92	0.027
FinMA - 7B	56.28	0.104	53.24	-0.031
Ploutos - 7B	61.21	0.205	59.89	0.064

• Ploutos は ACL18 および CIKM18 データセットで最先端の従来手法および LLM ベース手法を上回る。
• アブレーションにより、各コンポーネント（感情、テクニカル、rearview-mirror prompting、動的トークン重み付け）が性能向上に寄与することが示される。
• Ploutos は ACL18 および CIKM18 の両データセットでベースラインより高い精度と MCC を達成する。
• Ploutos は他のモデルと比較して根拠の忠実性と情報量の点で優れている。
• 最適温度付の動的トークン重み付けは、精度と根拠の質の両方を改善する。
• FinMA-7B は有益な根拠を生成するのに苦戦しており、Ploutos の学習戦略の利点を浮き彫りにする。