[논문 리뷰] FinAnchor: Aligned Multi-Model Representations for Financial Prediction

Zirui He, Hanyu Zhang외 3명|arXiv (Cornell University)|2026. 02. 24.

Stock Market Forecasting Methods인용 수 0

한 줄 요약

FinAnchor는 여러 개의 고정된 LLM으로부터의 임베딩을 선형 매핑으로 공통 앵커 공간에 정렬하고, 이를 집계한 뒤 가벼운 리드아웃을 학습하여, 기본 모델을 파인튜닝하지 않고도 긴 문서 전반에 걸친 재무 예측 성능을 향상시킨다.

ABSTRACT

Financial prediction from long documents involves significant challenges, as actionable signals are often sparse and obscured by noise, and the optimal LLM for generating embeddings varies across tasks and time periods. In this paper, we propose FinAnchor(Financial Anchored Representations), a lightweight framework that integrates embeddings from multiple LLMs without fine-tuning the underlying models. FinAnchor addresses the incompatibility of feature spaces by selecting an anchor embedding space and learning linear mappings to align representations from other models into this anchor. These aligned features are then aggregated to form a unified representation for downstream prediction. Across multiple financial NLP tasks, FinAnchor consistently outperforms strong single-model baselines and standard ensemble methods, demonstrating the effectiveness of anchoring heterogeneous representations for robust financial prediction.

연구 동기 및 목표

• 희박한 실행 가능 신호와 모델 편향에도 불구하고 긴 형식의 문서에서 견고한 재무 예측을 촉진한다.
• 기반 모델의 파인 튜닝을 피하는 경량 다중 인코더 정렬 프레임워크를 제안한다.
• 이질적인 표현의 정렬이 통합되고 효과적인 다운스트림 예측기를 산출함을 보여준다.
• 정렬이 언제 왜 성능을 향상시키는지 이해하기 위한 해석 가능성 분석을 제공한다.

제안 방법

• 앵커 LLM 임베딩 공간을 선택하고 다른 인코더로부터 이 앵커 공간으로 선형 리지 매핑을 학습한다.
• 특성을 표준화하고 학습 데이터만 사용하여 릿지 회귀 매핑을 적합시킨다(절편 없음).
• 앵커 공간에서 정렬된 표현을 집계한다(예: 인코더 간 평균 계산).
• 집계된 앵커 표현 위에 경량 다운스트림 리드아웃(MLP)을 학습한다.
• 시간 기반 분할이 있는 다수의 재무 NLP 작업에서 평가하여 시계열 밖(out-of-time) 성능을 평가한다.

Figure 1: (a) Three different LLM independently predict next-day stock movement from the same earnings call transcript: Models A and B predict negative return, while Model C predicts positive return. Highlighted phrases denote text snippets deemed salient by each model. In this case, Model A and B e

실험 결과

연구 질문

• RQ1 다양한 재무 텍스트 작업에서 FinAnchor가 단일 인코더 베이스라인과 단순 앙상블보다 예측 성능을 향상시킬 수 있는가?
• RQ2 정렬된 다중 모델 표현이 오류 패턴과 신뢰도 변화에서 체계적이고 무작위적이지 않은 이점을 제공하는가?
• RQ3 프레임워크가 해석 가능하여 서로 다른 모델로부터의 증거가 예측을 어떻게, 어떤 증거가 주도하는지 드러내는가?

주요 결과

• FinAnchor는 다섯 개 데이터셋에서 최상의 전반적 성능을 달성하고 가장 강력한 단일 모델 벤치마크를 능가한다.
• 정렬은 거짓 양성(false positives)을 거짓 음성(false negatives)보다 더 많이 감소시켜 예측에서 위험 관리가 개선되었음을 시사한다.
• 기본 모델 간의 오류 중첩은 사소하지 않으며 정렬을 통해 보정이 가능하다.
• 정렬은 올바르게 수정된 사례에서 방향성 있는 신뢰도 상승을 만들어낸다.
• 소스에서 앵커로의 선형 정렬 품질(R^2)이 높아 인코더 공간 간 기하구조의 호환성을 시사한다.
• 사례 연구는 증거 가중치 재조정이 실제 정답과 일치하는 재정적으로 중요한 신호를 확대함을 보여준다.

Figure 2: Decision transitions after alignment on Stock Movement Prediction task. Counts of label transitions from Gemma to the FinAnchor under validation-chosen thresholds. The FinAnchor corrects a substantial number of false positives (FP $\rightarrow$ TN), while also introducing smaller regressio