[논문 리뷰] PRISM: A Principled Framework for Multi-Agent Reasoning via Gain Decomposition

Yiming Yang, Zhuoyuan Li외 3명|arXiv (Cornell University)|2026. 02. 09.

Topic Modeling인용 수 2

한 줄 요약

PRISM은 다중 에이전트 추론을 위한 3차원 게인 분해(탐색, 정보, 집계)를 도입하고, 수렴 보장을 갖춘 원칙적인 네 단계 프레임워크를 제공하여 세 가지 게인을 함께 최대화하고, 수학, 코드, 도구 사용 벤치마크에서 최첨단 결과를 달성하고 계산 효율적인 규모 확장을 달성한다.

ABSTRACT

Multi-agent collaboration has emerged as a promising paradigm for enhancing reasoning capabilities of Large Language Models (LLMs). However, existing approaches remain largely heuristic, lacking principled guidance on what drives performance gains and how to systematically optimize multi-agent reasoning. Specifically, it remains unclear why multi-agent collaboration outperforms single-agent reasoning and which design choices contribute most to these gains, making it difficult to build better systems. We address this gap by introducing a unified theoretical framework that decomposes multi-agent reasoning gains into three conceptually independent dimensions: Exploration for diverse solution coverage, Information for high-fidelity feedback, and Aggregation for principled consensus. Through this lens, existing methods can be understood as special cases that optimize only subsets of these dimensions. Building upon this decomposition, a novel framework called PRISM (Propose-Review-Integrate Synthesis for Multi-agent Reasoning) is proposed, which jointly maximizes all three dimensions through role-based diversity, execution-grounded feedback with evidence-based cross-evaluation, and iterative synthesis with closed-loop validation. Extensive experiments across mathematical reasoning, code generation, and function calling benchmarks demonstrate that PRISM achieves state-of-the-art performance with superior compute-efficiency compared to methods optimizing partial dimensions. The theoretical framework provides actionable design principles for future multi-agent reasoning systems.

연구 동기 및 목표

• 휴리스틱 방법을 넘어 다중 에이전트 추론에서 게인을 좌우하는 원칙적 이해를 제공한다.
• 탐색, 정보, 집계를 서로 독립적이지만 함께 최적화 가능한 차원으로 다루는 통합 게인 분해 프레임워크를 제안한다.
• 이론적 보장을 갖춘 세 가지 게인을 함께 최대화하는 네 단계 워크플로우인 PRISM을 소개한다.
• 수학적 추론, 코드 생성, 함수 호출 작업에서 최신 성능과 계산 효율적 확장을 입증한다.

제안 방법

• 다중 에이전트 추론을 위한 3차원 게인 분해를 제안한다: 탐색(해결 공간 커버리지), 정보(고충실도 피드백), 집계(합의 품질).
• 가정과 함께 MAS를 (X, T, Q, K, E, f) 꼬리표로 형식화하고, 곱셈적 게인 구조와 부분가법 특성을 도출한다.
• 에이전트 성공 간 음의 상관관계를 유도하는 역할 기반 다양성을 보여준다(탐색 개선).
• 정보 게인은 텍스트 피드백보다 실행 기반 피드백으로 최대화되며, 결정적 실행이 불가능할 때는 모델 기반 의사 검증을 대체 수단으로 둔다.
• 단순 투표를 근거 있는 교차 평가로 대체하여 집계를 개선하고, 합성 단계를 수렴 보장이 있는 폐루프 프로세스로 모델링한다.
• 네 단계 PRISM 워크플로를 제시한다: 제안(다양한 후보), 실행(근거 있는 피드백), 검토(교차 평가), 합성(반복적 폐루프 개선).
• 이론적 결과를 제공: 게인 분해(정리 3.1), 정보 경계(보편적 3.3), 상관된 오차 하에서의 집계 효율성(보충 3.4), 수렴/최적성(정리 3.5).

실험 결과

연구 질문

• RQ1 단일 에이전트 기반 기준선에 비해 다중 에이전트 추론에서 성능 향상을 이끄는 메커니즘은 무엇인가?
• RQ2 게인을 독립적이고 최적화 가능한 차원으로 분해할 수 있으며, 이들이 공동 최적화될 때 어떻게 상호 작용하는가?
• RQ3 이론적 보장을 갖춘 탐색, 정보, 집계 게인을 함께 최대화하는 MAS를 어떻게 설계할 수 있는가?
• RQ4 수학, 코드, 도구 사용 작업 전반에 걸친 공동 최적화 프레임워크의 실증적 이점과 계산 효율성은 무엇인가?

주요 결과

• PRISM은 수학, 코드, 도구 사용 벤치마크에서 최첨단 성능을 보여준다.
• 원칙적인 3차원 게인 분해(탐색, 정보, 집계)가 이전 방법들을 특수한 경우로 설명하고 통일한다.
• 역할 기반 다양성은 상관된 오차를 감소시키고 탐색 이득을 향상시킨다.
• 실행 기반 피드백이 텍스트 피드백보다 더 높은 정보 이득을 제공하며, 전체 실행이 불가능할 때는 의사 검증을 대체 수단으로 한다.
• 근거 기반 교차 평가가 집계를 강화하여 상관된 오차 아래 다수결의 함정을 피한다.
• PRISM의 합성 단계는 이론적 보장을 갖춘 안정된 합의로 수렴하며, 부분 차원 방법과 비교하여 계산에 따른 정확도 확장을 지속적으로 보인다.