[논문 리뷰] FinGPT: Open-Source Financial Large Language Models

Hongyang Yang, Xiaoyang Liu외 1명|arXiv (Cornell University)|2023. 06. 09.

FinTech, Crowdfunding, Digital Finance인용 수 23

한 줄 요약

FinGPT는 금융 LLM을 위한 오픈 소스 데이터 중심 프레임워크를 제시하며, 실시간 데이터에서 경량 미세조정(LoRA/RLSP)을 가능하게 하여 FinLLMs를 민주화하고 금융 중심 애플리케이션을 가능하게 한다.

ABSTRACT

Large language models (LLMs) have shown the potential of revolutionizing natural language processing tasks in diverse domains, sparking great interest in finance. Accessing high-quality financial data is the first challenge for financial LLMs (FinLLMs). While proprietary models like BloombergGPT have taken advantage of their unique data accumulation, such privileged access calls for an open-source alternative to democratize Internet-scale financial data. In this paper, we present an open-source large language model, FinGPT, for the finance sector. Unlike proprietary models, FinGPT takes a data-centric approach, providing researchers and practitioners with accessible and transparent resources to develop their FinLLMs. We highlight the importance of an automatic data curation pipeline and the lightweight low-rank adaptation technique in building FinGPT. Furthermore, we showcase several potential applications as stepping stones for users, such as robo-advising, algorithmic trading, and low-code development. Through collaborative efforts within the open-source AI4Finance community, FinGPT aims to stimulate innovation, democratize FinLLMs, and unlock new opportunities in open finance. Two associated code repos are https://github.com/AI4Finance-Foundation/FinGPT and https://github.com/AI4Finance-Foundation/FinNLP

연구 동기 및 목표

• 오픈 소스 프레임워크를 통해 금융 데이터와 FinLLMs를 민주화한다.
• FinLLMs를 위한 데이터 확보, 정제, 전처리의 중요성을 강조한다.
• 금융에 맞춘 엔드 투 엔드 4층 구조(데이터 소스, 데이터 엔지니어링, LLMs, 애플리케이션)를 제안한다.
• FinGPT의 금융 잠재력을 보여주기 위한 실용적 애플리케이션과 데모를 시연한다.

제안 방법

• 고품질 데이터 큐레이션과 전처리를 우선하는 데이터 중심 접근법을 채택한다.
• 데이터 소스, 데이터 엔지니어링, LLMs, 애플리케이션의 엔드 투 엔드 4층 프레임워크를 구축한다.
• LoRA를 통한 오픈 소스 LLM의 경량 미세조정을 사용하여 학습 가능한 매개변수를 줄인다(6.17B에서 3.67M으로).
• 주가 변동을 피드백으로 사용하는 주가 강화학습(RLSP)에 의한 RL 기반 미세조정 대안을 제공한다.
• 금융 작업에 모델 출력을 맞추기 위해 RLHF 유사 방법과 프롬프트 엔지니어링을 활용한다.

실험 결과

연구 질문

• RQ1 개방형 데이터 중심 파이프라인이 금융에서 효과적인 FinLLMs를 어떻게 지원할 수 있는가?
• RQ2 금융 LLM의 미세조정에 LoRA 대 RLSP를 사용할 때의 트레이드오프는 무엇인가?
• RQ3 실시간 데이터 엔지니어링이 금융 데이터의 높은 시간 민감도와 낮은 신호대잡음비(SNR)를 극복할 수 있는가?
• RQ4 FinGPT가 가능하게 하고 개방형 FinLLMs의 가치를 입증할 수 있는 실용적인 금융 애플리케이션은 무엇인가?

주요 결과

• FinGPT는 학습당 300달러 미만의 비용으로 오픈소스 LLM을 조정하는 비용 효과적인 미세조정 접근법을 보여준다(BloombergGPT의 더 높은 비용과 비교).
• 이 프레임워크는 금융 데이터의 시간 민감성과 잡음을 다루기 위해 실시간 데이터 수집, 정제, 그리고 NLP 처리에 중점을 둔다.
• LoRA 기반 미세조정은 도메인 관련 금융 신호를 활용하면서 학습 가능한 매개변수를 6.17B에서 3.67M으로 줄인다.
• RLSP는 주가 변화와 같은 객관적 신호를 사용하여 시장에 대한 반응과 모델 정렬을 위한 시장 주도 피드백 루프를 제공한다.
• 오픈 소스 생태계와 튜토리얼은 로보어드바이저, 퀀트 트레이딩, 리스크 관리, 금융 교육 등의 애플리케이션을 가능하게 한다.