[論文レビュー] ATLAS: Adaptive Test-Time Latent Steering with External Verifiers for Enhancing LLMs Reasoning

Tuc Nguyen, Thai Le|arXiv (Cornell University)|Jan 6, 2026

Topic Modeling被引用数 0

ひとこと要約

ATLASは外部の軽量 latent verifier を導入してテスト時に LLM の推論を適応的に誘導し、複数の数学推論ベンチマークで精度を向上させ、トークン使用量を削減します。

ABSTRACT

Recent work on activation and latent steering has demonstrated that modifying internal representations can effectively guide large language models (LLMs) toward improved reasoning and efficiency without additional training. However, most existing approaches rely on fixed steering policies and static intervention strengths, which limit their robustness across problem instances and often result in over- or under-steering. We propose Adaptive Test-time Latent Steering, called (ATLAS), a task-specific framework that dynamically controls steering decisions at inference time using an external, lightweight latent verifier. Given intermediate hidden states, the verifier predicts the quality of ongoing reasoning and adaptively selects whether and how strongly to apply steering, enabling per-example and per-step adjustment with minimal overhead. To our knowledge, ATLAS is the first method to integrate learned latent verification into test-time steering for enhancing LLMs reasoning. Experiments on multiple mathematical reasoning benchmarks show that ATLAS consistently outperforms both vanilla decoding and fixed steering baselines, achieving higher accuracy while substantially reducing test-time token usage. These results demonstrate that verifier-guided latent adaptation provides an effective and scalable mechanism for controlling reasoning efficiency without sacrificing solution quality. All source code will be publicly available.

研究の動機と目的

• LLM の推論を固定戦略ではなく適応的に制御する動機付け。
• 中間隠表示を活用して完全なテキスト生成なしに推論品質を予測する。
• 各ステップの steering decision を導く軽量な外部 verifier を開発する。
• 潜在空間での適応的誘導がベンチマーク全体で精度と効率を向上させることを示す。

提案手法

• 検証セットから実行・反省・遷移のカテゴリ別 steering ベクトルを抽出する。
• PRM由来ラベルを用いて hidden states から推論品質を予測する軽量外部 verifier（MLP）を訓練する。
• 各推論タイプを他と対比して steering ベクトルを計算する（E, R, T）。
• 推論時に four steering options（実行、反省、遷移、または none）を、 steering ベクトルを適用後の予測品質を最大化して選択する。
• 選択した steering ベクトルで hidden states を変更して次のステップに影響を与えることで steering を適用する。

実験結果

リサーチクエスチョン

• RQ1 適応的で verifier 誘導された latent steering は vanilla decoding および固定 steering ベースラインより LLM の推論精度を向上させるか。
• RQ2 中間の hidden states で訓練された latent verifier はドメイン横断・モデル規模横断で一般化するか。
• RQ3 適応的 steering がテスト時の効率（トークン使用量）に与える影響は、モデルサイズが異なる場合どうなるか。
• RQ4 どの推論段階（ execution, reflection, transition ）と層の選択が multi-step 推論で最良の利得を生むか。

主な発見

• 適応的 steering は、 vanilla decoding および固定 steering ベースラインと比較して GSM8K、MATH500、AIME2024 の精度を一貫して改善する。
• latent-verifier guided ATLAS(L) は、特に大規模モデルでトークン削減を substantial に達成しつつ、精度を維持または向上させる。
• ATLAS 系はクロスドメイン評価で有利な転送を示し、AIME2024 や AMC2023 のような難易度の高いベンチマークで効率向上を顕著に示す。
• 層別分析により、中間の Transformer 層が介入ベースの steering に最も効果的であることが示された。
• ATLAS(T)（テキストレベル verifier）と ATLAS(L)（ latent verifier ）はモデルサイズに応じて相補的な強みを示し、潜在検証の方が特に効率的である。