[论文解读] Multi-Agent Collaboration: Harnessing the Power of Intelligent LLM Agents

Yashar Talebirad, Amirhossein Nadiri|arXiv (Cornell University)|Jun 5, 2023

Artificial Intelligence in Law被引用 50

一句话总结

本论文提出一个通用的多智能体框架，通过协调多个智能生成代理（IGAs）和插件来提升LLM能力，并演示其在Auto-GPT、BabyAGI和Gorilla-like 系统中的适用性。

ABSTRACT

In this paper, we present a novel framework for enhancing the capabilities of large language models (LLMs) by leveraging the power of multi-agent systems. Our framework introduces a collaborative environment where multiple intelligent agent components, each with distinctive attributes and roles, work together to handle complex tasks more efficiently and effectively. We demonstrate the practicality and versatility of our framework through case studies in artificial general intelligence (AGI), specifically focusing on the Auto-GPT and BabyAGI models. We also examine the "Gorilla" model, which integrates external APIs into the LLM. Our framework addresses limitations and challenges such as looping issues, security risks, scalability, system evaluation, and ethical considerations. By modeling various domains such as courtroom simulations and software development scenarios, we showcase the potential applications and benefits of our proposed multi-agent system. Our framework provides an avenue for advancing the capabilities and performance of LLMs through collaboration and knowledge exchange among intelligent agents.

研究动机与目标

• 引入一个用于IGAs之间多智能体协作的通用框架，以推动更强的AI系统和潜在的AGI。
• 通过添加/移除代理实现自适应、动态的系统配置，以应对多样化任务。
• 通过代理间和自我反馈机制促进知识交换和错误缓解。
• 提供一个结构化的抽象，可以对现有的AGI框架及其组件（代理、插件、记忆、API）进行建模。
• 突出实际用例（法庭场景模拟、软件开发）并讨论挑战与机遇。

提出的方法

• 将多智能体环境建模为 IGAs 与插件的黑箱图 G(V,E)。
• 将每个代理表示为元组 A_i=(L_i,R_i,S_i,C_i,H_i)，详细描述模型、角色、状态、创建代理的能力以及停止权限。
• 将每个插件表示为元组 P_j=(F_j,C_j,U_j)，具有功能、配置和使用约束。
• 规定通过边 E 在代理之间进行消息交换 m=(S_m,A_m,D_m)，以实现任务、报告和请求。
• 描述系统设计步骤：分配代理角色、将代理连接到插件、启用代理–代理通信，以及管理创建/停止权限。
• 引入动态代理添加，其中具备能力的代理可以实例化具有继承属性和连接的新代理。
• 引入反馈机制：代理间反馈和自我反馈，以改进策略和性能。
• 定义一个Oracle代理，对于分离输入是无状态/无记忆的，并对其他代理有用（例如反馈）。
• 引入停止/监督机制，可能通过 Supervisor Agent 来管理并停止不希望的代理行为。
• 提出自治系统设计，其中一个 IGA 可以设计或完善整个系统的结构与角色。

实验结果

研究问题

• RQ1 与孤立的LLM相比，多个IGAs的框架如何提升任务性能？
• RQ2 应如何对代理、插件及通信进行建模，以实现高效协作与可扩展性？
• RQ3 哪些机制（反馈、监督、停止）对于控制多智能体动态有效？
• RQ4 如何将现有的AGI框架（Auto-GPT、BabyAGI、Gorilla）映射到所提出的框架，以改进设计与运行？
• RQ5 在如法律和软件开发等领域部署此类框架的实际应用与挑战是什么？

主要发现

• 通过将它们的组件映射到代理和插件，证明该框架可应用于 Auto-GPT、BabyAGI 和 Gorilla-style 模型。
• 动态代理创建和监督机制可以帮助管理工作负载、缓解循环并改善协作。
• 提出的反馈机制（代理间反馈与自我反馈）可实现学习和适应，而无需持续的人类输入。
• 案例研究展示了在多智能体抽象框架内对复杂领域（法庭模拟和软件开发）的建模。
• 该框架指出了局限性（循环、安 全性、可扩展性、评估、伦理）并讨论潜在的改进和安全措施。
• 一个专门的 Supervisor Agent 可以监控进展并触发停止以防止停滞或偏离。