[論文レビュー] FinAnchor: Aligned Multi-Model Representations for Financial Prediction

Zirui He, Hanyu Zhang+3 more|arXiv (Cornell University)|Feb 24, 2026

Stock Market Forecasting Methods被引用数 0

ひとこと要約

FinAnchorは複数の frozen LLM からの埋め込みを線形写像で共通アンカー空間に揃え、それらを集約し、軽量なリードアウトを訓練することで、ベースモデルを微調整せずに長文文書全体での金融予測を改善します。

ABSTRACT

Financial prediction from long documents involves significant challenges, as actionable signals are often sparse and obscured by noise, and the optimal LLM for generating embeddings varies across tasks and time periods. In this paper, we propose FinAnchor(Financial Anchored Representations), a lightweight framework that integrates embeddings from multiple LLMs without fine-tuning the underlying models. FinAnchor addresses the incompatibility of feature spaces by selecting an anchor embedding space and learning linear mappings to align representations from other models into this anchor. These aligned features are then aggregated to form a unified representation for downstream prediction. Across multiple financial NLP tasks, FinAnchor consistently outperforms strong single-model baselines and standard ensemble methods, demonstrating the effectiveness of anchoring heterogeneous representations for robust financial prediction.

研究の動機と目的

• 長文文書からの実行可能な信号は sparse で、モデルバイアスがある場合でも堅牢な金融予測を動機づける。
• 基盤モデルを微調整せずに済む軽量なマルチエンコーダ整列フレームワークを提案する。
• 異種表現を整列させることで統一された効果的な下流予測器が得られることを示す。
• 整列が性能向上をもたらす時と理由を理解する解釈性分析を提供する。

提案手法

• アンカーとなる LLM 埋め込み空間を選択し、他のエンコーダからこのアンカー空間への線形リッジ写像を学習する。
• 特徴量を標準化し、訓練データのみを用いてリッジ回帰写像を適合させる（切片なし）。
• アンカー空間で整列した表現を集約する（例：エンコーダ間で平均を計算）。
• 集約したアンカー表現の上に軽量な下流リードアウト（MLP）を訓練する。
• 時系列の分割を用いて複数の金融NLPタスクで評価し、アウト・オブ・タイム性能を評価する。

Figure 1: (a) Three different LLM independently predict next-day stock movement from the same earnings call transcript: Models A and B predict negative return, while Model C predicts positive return. Highlighted phrases denote text snippets deemed salient by each model. In this case, Model A and B e

実験結果

リサーチクエスチョン

• RQ1 FinAnchorは単一エンコーダーベースラインや単純なアンサンブルに比べて、異なる金融テキストタスクで予測性能を改善できるか。
• RQ2 整列されたマルチモデル表現は、エラーパターンや信頼度のシフトによって系統的な向上をもたらすか（偶然ではなく）。
• RQ3 フレームワークは解釈可能で、異なるモデルからどの証拠が予測を駆動するかを明らかにできるか。

主な発見

• FinAnchorは5つのデータセット全体で最高の総合性能を達成し、最強の単一モデルベースラインを上回った。
• 整列は偽陽性を偽陰性よりも抑制する傾向があり、予測のリスク管理が改善される。
• ベースモデル間のエラーの重複は非自明であり、整列による補正が可能である。
• 整列により正しく修正されたケースで方向性のある信頼度シフトが生じる。
• 線形整列の品質（R^2）はソースからアンカーへの写像で高く、エンコーダー空間間の幾何構造が互換的であることを示唆する。
• ケーススタディでは、証拠のリウェイトが財務的に重要な手掛かりを強調し、正解と一致する。

Figure 2: Decision transitions after alignment on Stock Movement Prediction task. Counts of label transitions from Gemma to the FinAnchor under validation-chosen thresholds. The FinAnchor corrects a substantial number of false positives (FP $\rightarrow$ TN), while also introducing smaller regressio