[論文レビュー] Learning Global Hypothesis Space for Enhancing Synergistic Reasoning Chain

Jiaquan Zhang, Chaoning Zhang+10 more|arXiv (Cornell University)|Feb 10, 2026

Topological and Geometric Data Analysis被引用数 0

ひとこと要約

GHS-TDA は複数の推論経路からグローバル仮説グラフを構築し、持続的ホモロジーを用いて安定したバックボーンとループを抽出することで、ベンチマーク全体におけるLLM推論の精度と解釈性を向上させます。

ABSTRACT

Chain-of-Thought (CoT) has been shown to significantly improve the reasoning accuracy of large language models (LLMs) on complex tasks. However, due to the autoregressive, step-by-step generation paradigm, existing CoT methods suffer from two fundamental limitations. First, the reasoning process is highly sensitive to early decisions: once an initial error is introduced, it tends to propagate and amplify through subsequent steps, while the lack of a global coordination and revision mechanism makes such errors difficult to correct, ultimately leading to distorted reasoning chains. Second, current CoT approaches lack structured analysis techniques for filtering redundant reasoning and extracting key reasoning features, resulting in unstable reasoning processes and limited interpretability. To address these issues, we propose GHS-TDA. GHS-TDA first constructs a semantically enriched global hypothesis graph to aggregate, align, and coordinate multiple candidate reasoning paths, thereby providing alternative global correction routes when local reasoning fails. It then applies topological data analysis based on persistent homology to capture stable multi-scale structures, remove redundancy and inconsistencies, and extract a more reliable reasoning skeleton. By jointly leveraging reasoning diversity and topological stability, GHS-TDA achieves self-adaptive convergence, produces high-confidence and interpretable reasoning paths, and consistently outperforms strong baselines in terms of both accuracy and robustness across multiple reasoning benchmarks.

研究の動機と目的

• チェーン・オブ・思考推論におけるエラー伝搬と全体的調整の欠如に対処する動機づけ。
• 多様な推論経路をグローバル仮説グラフ（GHS）へ統合する二段階フレームワークを提案する。
• GHS から頑健なバックボーンと自己整合的なループを抽出するためにトポロジーデータ解析を活用する。

提案手法

• 複数の推論経路をサンプリングし、語義的に同等なステップを標準形とマージ閾値で統合してグローバル仮説グラフを構築する。
• ノードを意味表現埋め込み、グラフ特徴、不確実性を組み合わせたジョイント特徴空間へ埋め込み；k-NN グラフを構築し Vietoris–Rips 膜フィルトレーションを実行。
• 持続的ホモロジーを H1 まで計算して有意な連結成分とループを特定し、スケルトンバックボーンへマッピングする。
• GHS の成分をクラスタリングしてアンカーとバックボーンを定義し、開始/終了ノードと短経路を選択する。
• 持続性重み付き投票を用いてスケルトンに沿って回答を集約し、ループが存在する場合は包含（ entailment ）チェックを行う。

実験結果

リサーチクエスチョン

• RQ1 グローバル仮説グラフは多様な推論経路を一貫して統合し、初期段階のエラーを緩和できるか。
• RQ2 トポロジー分析（持続的ホモロジー）は安定で解釈可能な推論スケルトンを生み出し、精度と頑健性を向上させるか。
• RQ3 トポロジー認知パス抽出は局所的信頼度ベースの選択と比較して、精度と解釈性においてどのように違うか。
• RQ4 GHS-TDA がベンチマーク全体での推論効率とリソース使用に与える影響はどの程度か。

主な発見

Method	MATH	OlympiadBench	gsm8k	BBH	MMLU-CF	LongBench	HotpotQA	MuSiQue	Avg
GHS-TDA (Ours) - GPT-4o-mini	83.9	14.5	95.2	88.4	71.6	69.5	81.4	39.8	68.0
GHS-TDA (Ours) - Qwen-Turbo	83.7	14.4	94.8	87.9	71.2	68.6	80.3	39.6	67.6
GHS-TDA (Ours) - DeepSeek-V3	84.5	14.7	95.2	88.7	71.6	69.9	81.7	40.1	68.3

• GHS-TDA は eight benchmarks and three backbones の各ベースラインを一貫して上回る精度を示す。
• トポロジー的持続性（特に H1）は推論の正確性と相関し、正確な推論を予測する ROC-AUC が 0.74 に達する。
• TDA Skeleton による経路選択は、最短経路や最大信頼度経路よりも高い解釈性と頑健性をほぼ人間と同等レベルで達成する。
• GHS-TDA は ToT および AoT と比較して LLM 呼び出し回数とトークン消費を大幅に削減する。
• アブレーションは意味的類似性が最も重要な要素であることを示し、トポロジーは補完的な利点と不確実性項からの穏やかな頑健性向上を与える。