[论文解读] Multimodal Gen-AI for Fundamental Investment Research

Lezhi Li, Ting‐Yu Chang+1 more|arXiv (Cornell University)|Dec 24, 2023

Stock Market Forecasting Methods被引用 5

一句话总结

本文提出了一种多模态生成式人工智能框架，通过使用机构金融数据对 Llama2 和 GPT-3.5 进行微调，以自动化投资研究任务，如事件影响分析、市场状况推理和与投资者一致的股票推荐。该系统通过监督微调和 LoRA 微调，在摘要生成、推理和特定领域问答任务中表现出卓越性能，展示了通往能够减少基本面投资中人工工作量的 AI 代理的可行路径。

ABSTRACT

This report outlines a transformative initiative in the financial investment industry, where the conventional decision-making process, laden with labor-intensive tasks such as sifting through voluminous documents, is being reimagined. Leveraging language models, our experiments aim to automate information summarization and investment idea generation. We seek to evaluate the effectiveness of fine-tuning methods on a base model (Llama2) to achieve specific application-level goals, including providing insights into the impact of events on companies and sectors, understanding market condition relationships, generating investor-aligned investment ideas, and formatting results with stock recommendations and detailed explanations. Through state-of-the-art generative modeling techniques, the ultimate objective is to develop an AI agent prototype, liberating human investors from repetitive tasks and allowing a focus on high-level strategic thinking. The project encompasses a diverse corpus dataset, including research reports, investment memos, market news, and extensive time-series market data. We conducted three experiments applying unsupervised and supervised LoRA fine-tuning on the llama2_7b_hf_chat as the base model, as well as instruction fine-tuning on the GPT3.5 model. Statistical and human evaluations both show that the fine-tuned versions perform better in solving text modeling, summarization, reasoning, and finance domain questions, demonstrating a pivotal step towards enhancing decision-making processes in the financial domain. Code implementation for the project can be found on GitHub: https://github.com/Firenze11/finance_lm.

研究动机与目标

• 自动化基本面投资研究中劳动密集型的环节，包括文档摘要生成和投资想法生成。
• 评估不同大语言模型微调策略（特别是 LoRA 和指令微调）在金融领域任务中的有效性。
• 开发一个 AI 代理原型，生成结构化的投资输出：股票推荐、三个支持理由和详细解释。
• 通过使模型能够推理市场状况（例如估值、流动性）与股票价格变动之间的关系，增强决策能力。
• 整合独家机构研究报告和市场数据，以提升模型性能，超越仅基于公共新闻和通用语料库的模型。

提出的方法

• 使用监督和非监督 LoRA（低秩适应）技术，在精选的金融语料上对 Llama2-7B-chat 模型进行微调。
• 使用从投资备忘录和研究报告中提取的精选指令-输出对，对 GPT-3.5 模型进行指令微调。
• 构建了一个包含中央银行报告、股票研究、市场综述、投资原则和时间序列市场数据的多样化数据集。
• 通过统计指标和人类评估相结合的方式，对模型在摘要生成、推理和金融特定问答任务中的表现进行评估。
• 将模型输出结构化为包含股票推荐、三个支持理由和与投资者投资理念一致的详细解释。
• 使用分层数据管道将报告从宏观层面分类至股票层面，以支持模型中的多层级推理。

实验结果

研究问题

• RQ1 在金融推理和摘要生成任务中，哪种微调方法——LoRA 还是指令微调——表现更优？
• RQ2 微调后的 LLM 是否能够准确识别出特定事件（如油价上涨）影响的公司和行业？
• RQ3 该模型在在多大程度上能够学习并表征市场状况（例如情绪、流动性、基本面）与股票价格变动之间的关系？
• RQ4 该模型在多大程度上能够生成与投资者偏好和投资理念一致的投资想法？
• RQ5 该模型能否生成结构化、可直接用于投资者决策的输出，包括股票推荐和多理由解释？

主要发现

• 在 Llama2 上采用监督 LoRA 微调，以及在 GPT-3.5 上采用指令微调，均在摘要生成、推理和特定领域问答任务中优于基础模型。
• 微调后的模型在识别宏观经济事件（如油价变动）对行业和个股的影响方面表现出更强的能力。
• 人类评估确认，与基础模型相比，模型输出在连贯性、准确性和与投资者偏好的一致性方面均有显著提升。
• 该系统成功生成了包含前三大理由和详细解释的结构化投资推荐，符合预期输出格式。
• 整合独家机构研究报告显著提升了模型在特定领域的知识水平，相较于仅基于公共新闻训练的模型表现更优。
• 统计评估结果表明，微调后的模型在摘要生成和推理基准测试中取得了更高的 F1 和 BLEU 分数，表明性能有可测量的提升。