[논문 리뷰] SC-MAS: Constructing Cost-Efficient Multi-Agent Systems with Edge-Level Heterogeneous Collaboration

Di Zhao, Longhui Ma외 3명|arXiv (Cornell University)|2026. 01. 14.

Advanced Graph Neural Networks인용 수 0

한 줄 요약

SC-MAS는 작업별 에이전트 역할, 에지 수준 협업 전략, LLM 백본을 선택하여 실행 가능한 이질적 다중 에이전트 시스템을 구성하고, 최첨단 대비 더 높은 정확도와 더 낮은 비용을 달성합니다.

ABSTRACT

Large Language Model (LLM)-based Multi-Agent Systems (MAS) enhance complex problem solving through multi-agent collaboration, but often incur substantially higher costs than single-agent systems. Recent MAS routing methods aim to balance performance and overhead by dynamically selecting agent roles and language models. However, these approaches typically rely on a homogeneous collaboration mode, where all agents follow the same interaction pattern, limiting collaboration flexibility across different roles. Motivated by Social Capital Theory, which emphasizes that different roles benefit from distinct forms of collaboration, we propose SC-MAS, a framework for constructing heterogeneous and cost-efficient multi-agent systems. SC-MAS models MAS as directed graphs, where edges explicitly represent pairwise collaboration strategies, allowing different agent pairs to interact through tailored communication patterns. Given an input query, a unified controller progressively constructs an executable MAS by selecting task-relevant agent roles, assigning edge-level collaboration strategies, and allocating appropriate LLM backbones to individual agents. Experiments on multiple benchmarks demonstrate the effectiveness of SC-MAS. In particular, SC-MAS improves accuracy by 3.35% on MMLU while reducing inference cost by 15.38%, and achieves a 3.53% accuracy gain with a 12.13% cost reduction on MBPP. These results validate the feasibility of SC-MAS and highlight the effectiveness of heterogeneous collaboration in multi-agent systems.

연구 동기 및 목표

• MAS 설계를 위한 사회적 자본에서 영감을 받은 이질적 협업 프레임워크를 동기 부여한다.
• 정확도와 비용의 균형을 맞추기 위해 에이전트 선택, 에지 수준 협업 전략, LLM 할당을 공동 최적화한다.
• 에지 수준 이질성이 벤치마크 전반에서 성능 향상과 추론 비용 감소에 기여하는지 입증한다.

제안 방법

• MAS를 방향성 비순환 그래프로 모델링하여 간선이 쌍별 협업 전략을 인코딩한다.
• 세 단계 구성: Task에 관련된 에이전트를 선택하는 Node Selector, DAG 제약 하에 에이전트 간 및 자기 루프 전략을 할당하는 Edge Optimizer, Graph Neural Network를 통해 LLM 백본을 할당하는 LLM Router를 활용한다.
• 정책 그래디언트를 통해 작업 유틸리티에서 비용 패널티를 뺀 값을 최대화하도록 정책을 최적화하여 질의 조건 그래프 구성을 가능하게 한다.
• 노드 선택 및 확률적 에지 전략 할당을 위한 변분 잠재 변수 모델을 사용하여 협업 맥락을 포착한다.
• 구조적 컨텍스트를 전파하고 노드 임베딩 및 질의 특징에 기반한 LLM 할당 확률을 계산하기 위해 GNN을 활용한다.

실험 결과

연구 질문

• RQ1 에지 수준 협업 전략으로 이질적 상호 작용을 포착하는 MAS를 어떻게 표현할 수 있는가?
• RQ2 에이전트 선택, 에지 전략, LLM 할당을 공동 최적화하면 동질적 MAS 설계보다 정확도-비용 트레이드오프가 더 나아질 수 있는가?
• RQ3 사회적 자본에서 영감을 얻은 DAG 기반 MAS 구성이 벤치마크 전반에서 효율성과 성능을 향상시키는가?

주요 결과

방법	LLM 백본	MAS 라우팅	MMLU	GSM8K	MATH	HumanEval	MBPP
Vanilla	gpt-4o-mini		77.81	93.17	66.09	85.71	72.20
claude-3.5-haiku			67.97	92.16	65.89	86.33	73.40
gemini-1.5-flash			80.04	92.67	74.39	82.61	73.00
llama-3.1-70b			79.08	92.68	60.31	80.75	68.20
GPTSwarm Zhuge et al. (2024)	gpt-4o-mini		82.80	94.66	68.85	86.28	75.40
gemini-1.5-flash			83.22	93.98	73.35	82.36	74.80
AgentPrune Zhang et al. (2025b)	gpt-4o-mini		83.02	94.89	68.45	86.80	75.40
gemini-1.5-flash			83.10	93.88	73.54	82.55	75.80
AFlow Zhang et al. (2025c)	gpt-4o-mini		83.10	92.30	73.35	90.06	82.20
gemini-1.5-flash			82.35	94.91	72.70	85.69	76.00
PromptLLM Feng et al. (2025)	LLM Pool		78.43	93.92	73.03	86.33	73.60
RouteLLM Ong et al. (2025)	LLM Pool		81.04	93.42	71.29	83.85	72.60
FrugalGPT Chen et al. (2024b)	LLM Pool		76.24	90.76	67.05	87.31	74.40
RouterDC Chen et al. (2024c)	LLM Pool		82.01	93.68	73.46	87.75	75.20
MasRouter Yue et al. (2025)	LLM Pool		84.25	95.45	75.42	90.62	84.00
SC-MAS (Ours)	LLM Pool		87.60	96.09	76.75	92.37	87.53

• SC-MAS는 여러 벤치마크에서 baselines보다 더 높은 정확도와 더 낮은 비용을 달성합니다(예: MMLU 3.35% 개선, MBPP에서 비용 15.38% 감소).
• MBPP에서 SC-MAS는 3.53%의 정확도 이득과 12.13%의 추론 비용 감소를 보여줍니다.
• 기여 제거(Ablation) 실험에서 에지 또는 LLM 구성요소를 제거하면 성능 저하와 비용 증가가 관찰되며, 에지 모델링과 LLM 다양성은 중요한 요소로 확인됩니다.
• SC-MAS는 불필요한 에이전트를 효과적으로 걸러내고 잡음이 섞인 협력자에게 낮은 선택 확률을 부여합니다.
• 귀납적 분석은.SC-MAS가 보이지 않는 LLM에 일반화할 수 있음을 보여주며, 더 강한 모델이 추가될 때 성능이 향상됩니다.