[論文レビュー] Enhancing few-shot time series forecasting with LLM-guided diffusion

Haonan Shi, Dehua Shuai+3 more|arXiv (Cornell University)|Jan 19, 2026

Machine Learning in Healthcare被引用数 0

ひとこと要約

要約: 本論文は LTSM-DIFF を提案する。微調整済みの LLM を時系列の記憶として用い、拡散モデルを条件付けて時間系列予測を行い、データ量が豊富な場合と少数ショットの両方で性能を向上させる。

ABSTRACT

Time series forecasting in specialized domains is often constrained by limited data availability, where conventional models typically require large-scale datasets to effectively capture underlying temporal dynamics. To tackle this few-shot challenge, we propose LTSM-DIFF (Large-scale Temporal Sequential Memory with Diffusion), a novel learning framework that integrates the expressive power of large language models with the generative capability of diffusion models. Specifically, the LTSM module is fine-tuned and employed as a temporal memory mechanism, extracting rich sequential representations even under data-scarce conditions. These representations are then utilized as conditional guidance for a joint probability diffusion process, enabling refined modeling of complex temporal patterns. This design allows knowledge transfer from the language domain to time series tasks, substantially enhancing both generalization and robustness. Extensive experiments across diverse benchmarks demonstrate that LTSM-DIFF consistently achieves state-of-the-art performance in data-rich scenarios, while also delivering significant improvements in few-shot forecasting. Our work establishes a new paradigm for time series analysis under data scarcity.

研究の動機と目的

• 時系列予測におけるデータ不足を、事前学習済み言語モデルを時系列メモリとして活用して解決する。
• 拡散ベースの予測をリッチな系列表現で導くクロスモーダル条件付機構を開発する。
• データ全量および少数ショットの両方の設定で、精度と頑健性を改善することを diverse benchmarks で示す。
• LLM メモリ、拡散条件付、学習戦略の寄与を理解するためのアブレーションと分析を提供する。

提案手法

• マルバリアント時系列から時系列表現を抽出するために Low-Rank Adaptation (LoRA) を用いた GPT-2 ベースのエンコーダを微調整する。
• 埋め込み層と Transformer ブロックを用いて過去系列を潜在表現に埋め込み・変換し、最初の six GPT-2 ブロックに feeding する。
• 予測的時系列 priors を構築するため autoregressive MSE 損失で LLM-エンコーダを学習する。
• LLM 由来の表現と過去データの両方を条件付けとする拡散ベースの予測子（UViT）を実装し、入力とターゲットに対する前方のノイズ付与プロセスを介して結合分布をモデリングする。
• 注入ノイズ（epsilon）と組み合わせた拡散目的関数を学習し、LLM と拡散の損失をバランスさせるハイパーパラメータで joint conditional distribution を学習する。
• 推論時には、LLM 由来のメモリを条件にして未来を生成するための反復的デノイズを行う。
• 共同訓練目的関数を用いる：L = L_LLM + lambda * L_diffusion。自己回帰と拡散監督のバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 少数ショットデータ制約下で、LLM 由来の時系列メモリは拡散ベースの予測を改善できるか？
• RQ2 微調整済みのLLMからのクロスモーダル条件付は確率的時間系列モデリングと不確実性定量化を高めるか？
• RQ3 自動回帰的 LLM 目的と拡散ベースの予測を共同最適化する価値は、 diverse datasets においてどれくらいか？

主な発見

• LTSM-DIFF はデータ量が豊富な設定で複数の実世界データセットにおいて最先端の性能を達成。
• 少数ショット予測において大幅な改善を示し、非常に限られた微調整データでも競争力のある精度を維持。
• アブレーション研究により、LLM メモリの統合、拡散条件付、全モデルの組み合わせから段階的な利益が得られることを示す。
• 層選択分析では中〜後半の GPT-2 層（例：層6）を用いることが、誤差と効率の間で有利なバランスを提供することを示す。
• LLM メモリと拡散目的の共同訓練は、単独コンポーネントを用いる場合より有益である。