[論文レビュー] Visual Para-Thinker: Divide-and-Conquer Reasoning for Visual Comprehension

Haoran Xu, Hongyu Wang+6 more|arXiv (Cornell University)|Feb 10, 2026

Multimodal Machine Learning Applications被引用数 0

ひとこと要約

Visual Para-Thinkerを導入した、マルチモーダル大規模言語モデル（MLLMs）向けの初の並列推論フレームワーク。Pa-AttentionとLearnable Parallel Rotary Position Embedding（LPRoPE）を用いて経路が分離され、 unbiasedで識別可能な並列視覚推論を実現。カウント、グラウンディング、細粒度知覚、幻覚ベンチマークでの効率と性能向上を実証。

ABSTRACT

Existing LLM test-time scaling laws emphasize the emergence of self-reflective behaviors through extended reasoning length. Nevertheless, this vertical scaling strategy often encounters plateaus in exploration as the model becomes locked into specific thinking pattern. By shifting from depth to parallelism, parallel thinking mitigates the narrowing of exploration. However, the extension of this paradigm to visual domain remains an open research question. In this paper, we first examine the role of visual partitioning in parallelized reasoning and subsequently propose two distinct strategies. Based on the above, we introduce Visual Para-Thinker, representing the inaugural parallel reasoning framework for MLLMs. To maintain path independence and promote diversity in reasoning, our approach integrates Pa-Attention alongside LPRoPE. Leveraging the vLLM framework, we have developed a native multimodal implementation that facilitates high-efficiency parallel processing. Empirical results on benchmark datasets such as V*, CountBench, RefCOCO, and HallusionBench confirm that Visual Para-Thinker successfully extends the benefits of parallel reasoning to the visual domain.

研究の動機と目的

• 視覚分割が視覚領域の並列推論に与える影響を調査する。
• Visual Para-ThinkerをMLLM向けの初の並列推論フレームワークとして提案する。
• Pa-AttentionとLPRoPEを導入し、経路分離・ unbiased性・識別性を保証する。
• vLLM上のネイティブなマルチモーダル実装と広範なベンチマークを通じて効率性と有効性を実証する。

提案手法

• 視覚分割戦略を分析し、Block-based分割とScan-order分割を提案する。
• Parallel ReasoningとSummaryの2段階アーキテクチャでVisual Para-Thinkerを開発する。
• 推論段階とサマリ段階の両方で推論経路の分離を強制するPa-Attentionを導入する。
• 経路の unbiased性と識別性を達成するLearnable Parallel Rotary Position Embedding（LPRoPE）を統合する。
• 共有prefill、並列デコード、およびKV-cache管理を伴うサマリデコードをサポートするvLLM上の効率的推論フレームワークを実装する。

Figure 1 : Schematic representations of two distinct strategies for visual partitioning. (a) illustrates Block-based partitioning, while (b) shows Scan-order partitioning.

実験結果

リサーチクエスチョン

• RQ1 視覚分割はマルチモーダルモデルの並列推論経路にどのような影響を与えるか？
• RQ2 Pa-AttentionとLPRoPEは視覚タスクで独立した識別可能な並列推論経路を可能にするか？
• RQ3 視覚領域での並列推論は逐次推論や多数決ベースのベースラインと比べて精度を向上させ、幻覚を減らすか？

主な発見

• Visual Para-Thinkerは視覚領域にも並列思考を拡張し、カウント、グラウンディング、幻覚タスクでの利得を達成する。
• Pa-AttentionとLPRoPEを用いたHybridなBlock-basedとScan-order分割戦略は、経路間の分離性・ unbiased性・識別性を確保する。
• 実験は、推論経路数が増える（1、2、4経路）ほど視覚中心タスクで一貫した改善を示し、逐次推論や多数決ベースよりも高い性能を示す。
• モデルは強いグラウンディングを示し、RefCOCOシリーズで複数のベースラインより高い精度を達成し、MMVPとHallusionBenchで幻覚を減少させる。
• KV-cache再利用と並列デコードによる効率性向上を報告し、逐次や多数決アプローチと比べて総時間は競争力が高く、スループットが向上している。

Figure 2 : (a) illustrates the attention allocation results for Path 1 and Path 4 using the Block-based partitioning strategy during visual partitioning. The left panels present the attention maps for path 1 and path 4, while the right panels display the corresponding histograms of the spatial atten