[論文レビュー] Multimodal Gen-AI for Fundamental Investment Research

Lezhi Li, Ting‐Yu Chang+1 more|arXiv (Cornell University)|Dec 24, 2023

Stock Market Forecasting Methods被引用数 5

ひとこと要約

本論文では、機関投資家向けの財務データを用いてLlama2およびGPT-3.5をファインチューニングするマルチモーダル生成AIフレームワークを提案し、イベントインパacts分析、マーケットコンディションの推論、インvesorに配慮した株式推薦などの投資リサーチタスクの自動化を実現する。教師ありおよびLoRAファインチューニングを通じて要約、推論、ドメイン特化型の質問応答において優れた性能を達成し、ファンドメンタル投資における人的作業を削減するAIエージェントの実現可能性を示している。

ABSTRACT

This report outlines a transformative initiative in the financial investment industry, where the conventional decision-making process, laden with labor-intensive tasks such as sifting through voluminous documents, is being reimagined. Leveraging language models, our experiments aim to automate information summarization and investment idea generation. We seek to evaluate the effectiveness of fine-tuning methods on a base model (Llama2) to achieve specific application-level goals, including providing insights into the impact of events on companies and sectors, understanding market condition relationships, generating investor-aligned investment ideas, and formatting results with stock recommendations and detailed explanations. Through state-of-the-art generative modeling techniques, the ultimate objective is to develop an AI agent prototype, liberating human investors from repetitive tasks and allowing a focus on high-level strategic thinking. The project encompasses a diverse corpus dataset, including research reports, investment memos, market news, and extensive time-series market data. We conducted three experiments applying unsupervised and supervised LoRA fine-tuning on the llama2_7b_hf_chat as the base model, as well as instruction fine-tuning on the GPT3.5 model. Statistical and human evaluations both show that the fine-tuned versions perform better in solving text modeling, summarization, reasoning, and finance domain questions, demonstrating a pivotal step towards enhancing decision-making processes in the financial domain. Code implementation for the project can be found on GitHub: https://github.com/Firenze11/finance_lm.

研究の動機と目的

• ファウンデーション投資リサーチにおける人的作業がかかる側面、特に文書要約と投資アイデア生成の自動化を目的とする。
• 特にLoRAとインstructチューニングを含む、異なるLLMファインチューニング戦略の金融ドメインタスクにおける有効性を評価すること。
• 株式推薦、3つの根拠、および詳細な説明を含む構造化された投資出力を生成するAIエージェントプロトタイプの開発。
• マーケットコンディション（例：バリュエーション、 liquidit）と株価変動の関係をモデルが推論できるようにすることで意思決定を強化すること。
• 公開ニュースや一般コロナにとどまらず、排他的な機関リサーチレポートとマーケットデータを統合し、モデル性能の向上を図ること。

提案手法

• 洗練された財務コロナを用いて、Llama2-7B-chatモデルを、非教師ありおよび教師ありのLoRA（低ランク適応）技術でファインチューニングした。
• 投資メモおよびリサーチレポートから抽出した洗練されたインstruct-出力ペアを用いて、GPT-3.5モデルにインstructファインチューニングを実施した。
• 中央銀行レポート、株式リサーチ、マーケットラップ、投資原則、時系列マーケットデータを含む多様なデータセットを構築した。
• 要約、推論、金融特化型の質問応答などのタスクにおいて、統計的指標と人間評価の両方を用いてモデルのパフォーマンスを評価した。
• 出力を株式推薦、3つの根拠、および投資家の主張に一致する詳細な説明を含む構造化された形式に整えた。
• レポートをマクロレベルから株式レベルまで分類する階層的データパイプラインを活用し、モデルにおける多段階推論を可能にした。

実験結果

リサーチクエスチョン

• RQ1 金融的推論および要約タスクにおいて、LoRAとインストラクションチューニングのどちらのファインチューニング手法が優れたパフォーマンスを示すか？
• RQ2 ファインチューニングされたLLMは、石油価格上昇などの特定イベントが影響を及ぼす企業やセクターを正確に特定できるか？
• RQ3 マーケットコンディション（例：センチメント、 liquidit、ファウンデーション）と株価変動の関係を、モデルがどの程度学習し、表現できるか？
• RQ4 投資家の好みや投資戦略に一致する投資アイデアを、モデルがどの程度適切に生成できるか？
• RQ5 株式推薦と複数の根拠を含む構造化された、投資家向けの出力をモデルが生成できるか？

主な発見

• Llama2における教師ありLoRAファインチューニングおよびGPT-3.5におけるインストラクションチューニングは、ベースモデルに比べ、要約、推論、ドメイン特化型の質問応答タスクで優れた性能を示した。
• ファインチューニングされたモデルは、石油価格変動などのマクロ経済イベントが及ぼすセクターおよび株式レベルのインパクトを特定する能力が向上した。
• 人間評価により、ベースモデルと比較して、モデル出力がより一貫性があり、正確で、投資家の好みに適合していることが確認された。
• システムは、トップ3の根拠と詳細な説明を含む構造化された投資推薦を正常に生成し、望ましい出力形式を満たした。
• 排他的な機関リサーチレポートの統合により、公開ニュースや一般コロナでの学習にとどまるモデルと比較して、モデルのドメイン知識が顕著に向上した。
• 統計的評価により、ファインチューニングされたモデルが要約および推論ベンチマークでF1およびBLEUスコアが向上しており、明確なパフォーマンス向上が裏付けられた。