[论文解读] FinGPT: Democratizing Internet-scale Data for Financial Large Language Models

Xiaoyang Liu, Guoxuan Wang+2 more|arXiv (Cornell University)|Jul 19, 2023

Stock Market Forecasting Methods被引用 22

一句话总结

FinGPT 提供一个开源、以数据为中心的框架，自动在实时收集并从 34+ 个来源进行互联网范围的金融数据整理，并使用 LoRA/QLoRA 和市场反馈对金融领域的大模型进行轻量化微调。

ABSTRACT

Large language models (LLMs) have demonstrated remarkable proficiency in understanding and generating human-like texts, which may potentially revolutionize the finance industry. However, existing LLMs often fall short in the financial field, which is mainly attributed to the disparities between general text data and financial text data. Unfortunately, there is only a limited number of financial text datasets available, and BloombergGPT, the first financial LLM (FinLLM), is close-sourced (only the training logs were released). In light of this, we aim to democratize Internet-scale financial data for LLMs, which is an open challenge due to diverse data sources, low signal-to-noise ratio, and high time-validity. To address the challenges, we introduce an open-sourced and data-centric framework, Financial Generative Pre-trained Transformer (FinGPT), that automates the collection and curation of real-time financial data from 34 diverse sources on the Internet, providing researchers and practitioners with accessible and transparent resources to develop their FinLLMs. Additionally, we propose a simple yet effective strategy for fine-tuning FinLLM using the inherent feedback from the market, dubbed Reinforcement Learning with Stock Prices (RLSP). We also adopt the Low-rank Adaptation (LoRA, QLoRA) method that enables users to customize their own FinLLMs from general-purpose LLMs at a low cost. Finally, we showcase several FinGPT applications, including robo-advisor, sentiment analysis for algorithmic trading, and low-code development. FinGPT aims to democratize FinLLMs, stimulate innovation, and unlock new opportunities in open finance. The codes have been open-sourced.

研究动机与目标

• 证明让互联网规模的金融数据民主化用于 FinLLMs 的可行性。
• 引入一个聚焦于数据源、整理、LLMs 与应用的四层 FinGPT 框架。
• 展示通过轻量化方法和基于市场的强化信号进行数据驱动的微调。
• 验证在 robo-advisors、交易情绪分析、低代码开发等应用中的可行性。

提出的方法

• 四层 FinGPT 架构（数据源、数据整理、LLM、应用）。
• 从 34+ 个来自新闻、社交媒体、披露文件和数据集等多样来源进行自动化实时数据收集。
• 数据清洗与文档筛选以提升质量、降低噪声。
• 低秩适应（LoRA/QLoRA）用于轻量化模型微调。
• 使用市场反馈作为情感标签的带股票价格的强化学习（RLSP）。
• 低成本适应，使私密性考量下的即插即用 FinLLMs 成为可能。

实验结果

研究问题

• RQ1 是否能够收集并整理开放、实时、互联网规模的金融数据来训练 FinLLMs？
• RQ2 在数据驱动的 FinGPT 下，FinLLM 在金融任务上的表现是否优于基线？
• RQ3 轻量化微调方法（LoRA/QLoRA）以及市场反馈信号是否足以实现高效的 FinLLMs？
• RQ4 在 robo-advising、情绪驱动交易和低代码开发等方面，实际应用及其性能表现为何？

主要发现

• FinGPT 流程将 34+ 个数据来源整合在一起，使金融数据获得民主化访问。
• RLSP 在没有人工反馈的情况下实现市场信息化标注，降低标注成本。
• FinGPT 结合 LoRA/QLoRA 实现较低的适配成本，同时保持数据隐私。
• 在 FinGPT 进行的数据整理上进行微调可以提升情绪分析与交易指标，相较于基线。
• 表 1 显示 FinGPT 在新闻情绪任务上相对于 LLaMA 具有更高的准确率与累计回报。
• 使用金融数据集（FPB、FiQA-SA、TFNS、NWGI）进行微调，相较于预训练基线获得显著的 F1 与准确率提升。