[论文解读] AgentScope: A Flexible yet Robust Multi-Agent Platform

Dawei Gao, Zitao Li+17 more|arXiv (Cornell University)|Feb 21, 2024

Multi-Agent Systems and Negotiation被引用 8

一句话总结

AgentScope 提出一个以开发者为中心的多智能体平台，核心是消息交换范式，具备容错、多模态支持，以及基于 actor 的分布式框架，以简化构建健壮的多智能体 LLM 系统。

ABSTRACT

With the rapid advancement of Large Language Models (LLMs), significant progress has been made in multi-agent applications. However, the complexities in coordinating agents' cooperation and LLMs' erratic performance pose notable challenges in developing robust and efficient multi-agent applications. To tackle these challenges, we propose AgentScope, a developer-centric multi-agent platform with message exchange as its core communication mechanism. The abundant syntactic tools, built-in agents and service functions, user-friendly interfaces for application demonstration and utility monitor, zero-code programming workstation, and automatic prompt tuning mechanism significantly lower the barriers to both development and deployment. Towards robust and flexible multi-agent application, AgentScope provides both built-in and customizable fault tolerance mechanisms. At the same time, it is also armed with system-level support for managing and utilizing multi-modal data, tools, and external knowledge. Additionally, we design an actor-based distribution framework, enabling easy conversion between local and distributed deployments and automatic parallel optimization without extra effort. With these features, AgentScope empowers developers to build applications that fully realize the potential of intelligent agents. We have released AgentScope at https://github.com/modelscope/agentscope, and hope AgentScope invites wider participation and innovation in this fast-moving field.

研究动机与目标

• 通过提供面向过程的消息交换机制，降低多智能体应用的开发复杂性。
• 通过可配置的容错、重试策略、基于规则的修正和日志记录来增强鲁棒性。
• 通过基于 URL 的传输和统一存储管理来支持多模态数据。
• 通过基于 actor 的分布式框架和自动并行优化，实现本地到分布式的无缝部署。
• 提供丰富的内置资源、模板和用户界面，以加速原型设计和部署。

提出的方法

• 将消息、代理、服务和工作流抽象作为核心概念。
• 将 AgentScope 构建为工具层、管理/包装层和代理层，并在每个层级提供容错钩子。
• 提供诸如流水线和消息中心之类的语法糖，以简化工作流编程。
• 通过基于 URL 的传输和解耦的存储系统来支持多模态数据。
• 实现基于 actor 的分布式框架，能够实现自动并行优化以及混合本地/分布式部署。
• 提供预构建的代理模板和服务集成以加速开发。

实验结果

研究问题

• RQ1 面向过程的消息交换机制如何提高多智能体 LLM 应用的开发者可用性？
• RQ2 在多智能体环境中，哪些容错策略对不同的 LLM 和 API 更为有效？
• RQ3 在分布式多智能体系统中，如何高效生成、传输和存储多模态数据？
• RQ4 基于 actor 的分布式框架是否能够在保持性能的同时实现本地与分布式部署之间的无缝转换？
• RQ5 哪些内置资源和模板最能加速多智能体工作流的快速原型开发？

主要发现

• AgentScope 提供一个分层架构，包含工具层、管理/包装层和代理层，以支持稳健的多智能体开发。
• 它实现了包含自动重试、基于规则的修正、可自定义的容错处理程序以及代理级别的评审机制的容错栈。
• 多模态数据通过基于 URL 的消息进行管理，减少内存占用并实现按需数据加载和基于 UI 的交互。
• 一个基于 actor 的分布式框架提供自动并行优化，并支持本地/分布式混合部署且无需修改工作流代码。
• 该平台包含流水线和消息中心，以减少样板代码并促进可扩展、面向组的智能体通信。