[논문 리뷰] FinGPT: Democratizing Internet-scale Data for Financial Large Language Models

Xiaoyang Liu, Guoxuan Wang외 2명|arXiv (Cornell University)|2023. 07. 19.

Stock Market Forecasting Methods인용 수 22

한 줄 요약

FinGPT는 34개 이상의 소스에서 인터넷 규모의 금융 데이터를 실시간으로 수집·선별하는 오픈 소스 데이터 중심 프레임워크를 제시하며, LoRA/QLoRA 및 시장 피드백을 활용한 금융용 LLM의 경량화 파인튜닝을 가능하게 한다.

ABSTRACT

Large language models (LLMs) have demonstrated remarkable proficiency in understanding and generating human-like texts, which may potentially revolutionize the finance industry. However, existing LLMs often fall short in the financial field, which is mainly attributed to the disparities between general text data and financial text data. Unfortunately, there is only a limited number of financial text datasets available, and BloombergGPT, the first financial LLM (FinLLM), is close-sourced (only the training logs were released). In light of this, we aim to democratize Internet-scale financial data for LLMs, which is an open challenge due to diverse data sources, low signal-to-noise ratio, and high time-validity. To address the challenges, we introduce an open-sourced and data-centric framework, Financial Generative Pre-trained Transformer (FinGPT), that automates the collection and curation of real-time financial data from 34 diverse sources on the Internet, providing researchers and practitioners with accessible and transparent resources to develop their FinLLMs. Additionally, we propose a simple yet effective strategy for fine-tuning FinLLM using the inherent feedback from the market, dubbed Reinforcement Learning with Stock Prices (RLSP). We also adopt the Low-rank Adaptation (LoRA, QLoRA) method that enables users to customize their own FinLLMs from general-purpose LLMs at a low cost. Finally, we showcase several FinGPT applications, including robo-advisor, sentiment analysis for algorithmic trading, and low-code development. FinGPT aims to democratize FinLLMs, stimulate innovation, and unlock new opportunities in open finance. The codes have been open-sourced.

연구 동기 및 목표

• 인터넷 규모의 금융 데이터를 FinLLMs에 민주화하는 타당성을 시연한다.
• 데이터 소스, 큐레이션, LLM, 응용으로 구성된 4계층 FinGPT 프레임워크를 소개한다.
• 가벼운 방법과 시장 기반 강화 신호를 통한 데이터 주도형 파인튜닝을 시연한다.
• 로보어드바이저, 거래를 위한 감성 분석, 로우코드 개발 등 응용 사례를 검증한다.

제안 방법

• 데이터 소스, 데이터 큐레이션, LLM, 응용으로 구성된 4계층 FinGPT 아키텍처.
• 뉴스, 소셜 미디어, 파일링, 데이터 세트를 포함한 34개 이상 다양한 소스에서의 자동화된 실시간 데이터 수집.
• 품질 향상 및 노이즈 감소를 위한 데이터 정제 및 문서 필터링.
• 경량 모델 파인튜닝을 위한 저랭크 어댑테이션(LoRA/QLoRA).
• 시장 피드백을 레이블로 사용한 주가 기반 강화 학습(RLSP)으로 감성에 대한 레이블링을 수행.
• 개인정보 보호를 고려한 핑거프린팅 가능한 핀/플러그인형 FinLLMs를 가능하게 하는 저비용 어댑테이션.

실험 결과

연구 질문

• RQ1 오픈형의 실시간 인터넷 규모 금융 데이터를 수집·큐레이션하여 FinLLMs를 학습시킬 수 있는가?
• RQ2 데이터 중심의 FinGPT가 금융 과제에서 기본 모델 대비 성능을 향상시키는가?
• RQ3 경량 파인튜닝 방법(LoRA/QLoRA)와 시장 피드백 신호가 효과적인 FinLLMs에 충분한가?
• RQ4 로보어드바이징, 감성 기반 거래, 로우코드 개발에서의 실용적 FinGPT 응용 및 성능은 어떠한가?

주요 결과

• FinGPT 파이프라인은 34개 이상의 데이터 소스를 통합하여 금융 데이터에 대한 접근을 민주화한다.
• RLSP는 인간 피드백 없이도 시장 정보를 이용한 레이블링을 가능하게 하여 라벨링 비용을 줄인다.
• LoRA/QLoRA를 활용한 FinGPT는 적응 비용을 낮추고 데이터 프라이버시를 유지한다.
• FinGPT로 큐레이션된 데이터에 대한 파인튜닝은 기본 모델 대비 감성 분석 및 거래 지표에서 향상을 보인다.
• 표 1은 뉴스 감정 분석 작업에서 LLaMA에 비해 더 높은 정확도와 누적 수익을 달성하는 FinGPT를 보여준다.
• 금융 데이터세트(FPB, FiQA-SA, TFNS, NWGI)로의 파인튜닝은 사전 학습 기준 대비 F1 및 정확도에서 상당한 향상을 보여준다.