[論文レビュー] FinMem: A Performance-Enhanced LLM Trading Agent with Layered Memory and Character Design

Yangyang Yu, Haohang Li+7 more|arXiv (Cornell University)|Nov 23, 2023

Stock Market Forecasting Methods被引用数 7

ひとこと要約

tldr: FinMem は、プロファイリング、階層的メモリ、適応的キャラクタ設計を備えたモジュール型の LLM ベース取引エージェントを導入し、記憶を用いた意思決定と市場の手掛かりへの迅速な適応を可能にすることで、株式取引のパフォーマンスを向上させる。

ABSTRACT

Recent advancements in Large Language Models (LLMs) have exhibited notable efficacy in question-answering (QA) tasks across diverse domains. Their prowess in integrating extensive web knowledge has fueled interest in developing LLM-based autonomous agents. While LLMs are efficient in decoding human instructions and deriving solutions by holistically processing historical inputs, transitioning to purpose-driven agents requires a supplementary rational architecture to process multi-source information, establish reasoning chains, and prioritize critical tasks. Addressing this, we introduce extsc{FinMem}, a novel LLM-based agent framework devised for financial decision-making. It encompasses three core modules: Profiling, to customize the agent's characteristics; Memory, with layered message processing, to aid the agent in assimilating hierarchical financial data; and Decision-making, to convert insights gained from memories into investment decisions. Notably, extsc{FinMem}'s memory module aligns closely with the cognitive structure of human traders, offering robust interpretability and real-time tuning. Its adjustable cognitive span allows for the retention of critical information beyond human perceptual limits, thereby enhancing trading outcomes. This framework enables the agent to self-evolve its professional knowledge, react agilely to new investment cues, and continuously refine trading decisions in the volatile financial environment. We first compare extsc{FinMem} with various algorithmic agents on a scalable real-world financial dataset, underscoring its leading trading performance in stocks. We then fine-tuned the agent's perceptual span and character setting to achieve a significantly enhanced trading performance. Collectively, extsc{FinMem} presents a cutting-edge LLM agent framework for automated trading, boosting cumulative investment returns.

研究の動機と目的

• 自動的に複数ソースの金融データを処理し、タイムリー性が異なるデータを扱えるエージェントの必要性を動機づける。
• DRL および従来の LLM エージェントにおける記憶と解釈性の制約に対処するための FinMem の三モジュール構成 (Profiling、Memory、Decision-making) を提案する。
• 階層的メモリと適応的キャラクタ設定が、ボラティリティの高い市場における取引意思決定と堅牢性をどのように改善するかを示す。
• 有限の学習データと汎用的な LLM に対して、実世界データセットで FinMem が優れた取引性能を達成することを示す。

提案手法

• FinMem の Profiling モジュールを導入し、エージェントの特性とリスク嗜好をカスタマイズする。
• 時間依存情報処理のための作動記憶と階層的長期記憶を備えた Memory モジュールを開発する。
• Memory に由来する洞察を取引行動（買い/売り/ホールド）へ翻訳する意思決定モジュールを定義する。
• 浅層・中間層・深層の各層を横断して、近接性・関連性・重要性を組み合わせた新規のメモリスコアリング関数を採用する。
• 各層からの上位K件のメモリイベントを用いて、取引決定を誘導する即時および拡張的な反省を通知する。
• Layered decay メカニズムとアクセスカウンターを用いて、 pivotal なイベントを優先し、メモリの更新と保持を地づける。

Figure 1: The prompt template for FinMem ’s profiling module. It includes two key elements of its character setting: professional background knowledge and three distinct investment risk inclinations. In the self-adaptive risk inclination option, the omitted texts align with the detailed descriptions

実験結果

リサーチクエスチョン

• RQ1 RQ1: FinMem は実世界データ上で同時代のアルゴリズム取引エージェントを上回るか。
• RQ2 RQ2: 他の取引アルゴリズムが課題とするタスクを FinMem は扱えるか。
• RQ3 RQ3: FinMem に最適な LLM バックボーンはどれか。
• RQ4 RQ4: 異なるトレーダーのリスク嗜好は FinMem の取引性能を有意に差別化するか。
• RQ5 RQ5: FinMem は情報を効果的にフィルタリング・優先付けして取引決定に活用できるか。

主な発見

• FinMem は拡張可能な実世界データセットにおいて、代表的なアルゴリズム取引エージェントに対して優れた取引性能を示す。
• FinMem のメモリおよびプロファイリングモジュールは、市場の洞察をより適切に階層化・活用でき、意思決定の質を向上させる。
• バックボーン LLM の変更、作動記憶容量、キャラクター設定の調整は取引性能に大きく影響する。
• ダイナミックなリスク嗜好機能により、FinMem は市場状況に適応し下落局面を緩和できる。
• アブレーション研究により、FinMem は過去の取引経験から学び、市場との相互作用を通じて知識ベースを進化させ得ることが示される。
• 本フレームワークは、限られた学習データ（日数〜月）でも堅牢な取引性能を達成し、より大規模データセットや専門的な金融 LLM にも有望である。

Figure 2: Memory module structure of FinMem with a detailed view of components, operations, and workflow. The cognitive architectures of FinMem ’s memory module have two core components – Working Memory and Layered Long-term Memory.