[논문 리뷰] Multi-Agent Collaboration: Harnessing the Power of Intelligent LLM Agents

Yashar Talebirad, Amirhossein Nadiri|arXiv (Cornell University)|2023. 06. 05.

Artificial Intelligence in Law인용 수 50

한 줄 요약

이 논문은 여러 지능형 생성 에이전트(IGAs)와 플러그인을 조정하여 LLM 기능을 향상시키는 일반적인 다에이전트 프레임워크를 제안하고, Auto-GPT, BabyAGI, Gorilla 유사 시스템에의 적용 가능성을 시연합니다.

ABSTRACT

In this paper, we present a novel framework for enhancing the capabilities of large language models (LLMs) by leveraging the power of multi-agent systems. Our framework introduces a collaborative environment where multiple intelligent agent components, each with distinctive attributes and roles, work together to handle complex tasks more efficiently and effectively. We demonstrate the practicality and versatility of our framework through case studies in artificial general intelligence (AGI), specifically focusing on the Auto-GPT and BabyAGI models. We also examine the "Gorilla" model, which integrates external APIs into the LLM. Our framework addresses limitations and challenges such as looping issues, security risks, scalability, system evaluation, and ethical considerations. By modeling various domains such as courtroom simulations and software development scenarios, we showcase the potential applications and benefits of our proposed multi-agent system. Our framework provides an avenue for advancing the capabilities and performance of LLMs through collaboration and knowledge exchange among intelligent agents.

연구 동기 및 목표

• IGAs 간 다에이전트 협업의 일반 프레임워크를 도입하여 보다 유능한 AI 시스템과 잠재적 AGI를 향한 발전을 추진합니다.
• 에이전트의 추가/제거를 통한 적응적이고 동적 시스템 구성을 가능하게 하여 다양한 작업을 처리합니다.
• 에이전트 간 및 자기 피드백 메커니즘을 통해 지식 교류와 오류 완화를 촉진합니다.
• 기존 AGI 프레임워크와 그 구성요소(에이전트, 플러그인, 메모리, API)를 모델링할 수 있는 구조적 추상화를 제공합니다.
• 실용적 사용 사례(법정 시뮬레이션, 소프트웨어 개발)를 강조하고 도전 과제와 기회를 논의합니다.

제안 방법

• 다에이전트 환경을 IGAs와 플러그인으로 구성된 블랙박스 그래프 G(V,E)로 모델링합니다.
• 각 에이전트를 A_i=(L_i,R_i,S_i,C_i,H_i)로 나타내어 모델, 역할, 상태, 에이전트를 생성하는 능력, 중지 권한을 상세히 설명합니다.
• 각 플러그인을 P_j=(F_j,C_j,U_j)로 나타내어 기능, 구성, 사용 제한을 포함합니다.
• 에이전트 간의 메시지 교환을 E의 간선으로 m=(S_m,A_m,D_m) 형태로 정의하여 태스크, 보고, 요청을 가능하게 합니다.
• 시스템 설계 단계: 에이전트 역할 할당, 에이전트-플러그인 연결, 에이전트 간 통신 활성화, 생성/중지 권한 관리.
• 능력 있는 에이전트가 새로운 에이전트를 상속 속성과 연결 정보를 가지고 생성하는 동적 에이전트 추가를 도입합니다.
• 에이전트 간 피드백 및 자기 피드백을 도입하여 전략과 성능을 개선합니다.
• 상호 독립적으로 입력을 처리하는 무상태/무기억의 Oracle 에이전트를 정의하고 다른 에이전트(예: 피드백)에 유틸리티를 제공합니다.
• 원치 않는 에이전트 동작을 관리하고 중지시키기 위한 감독 메커니즘(예: Supervisor Agent)을 포함한 중단/감독 메커니즘을 제안합니다.
• IGA가 시스템의 전체 구조와 역할을 설계하거나 개선할 수 있는 자율 시스템 설계를 제안합니다.

실험 결과

연구 질문

• RQ1 다수의 IGAs 프레임워크가 고립된 LLM에 비해 작업 성능을 어떻게 향상시키나요?
• RQ2 에이전트, 플러그인, 그리고 통신을 어떻게 모델링해야 효율적 협업과 확장성을 달성할 수 있나요?
• RQ3 다에이전트 역학을 제어하기 위한 피드백, 감독, 중지 메커니즘은 어떤 것이 효과적인가요?
• RQ4 기존 AGI 프레임워크(Auto-GPT, BabyAGI, Gorilla)를 제안된 프레임워크로 매핑하여 설계와 작동을 어떻게 개선할 수 있나요?
• RQ5 법률, 소프트웨어 개발과 같은 도메인에서 이러한 프레임워크를 배포하는 실제 적용 사례와 도전 과제는 무엇인가요?

주요 결과

• 프레임워크가 Auto-GPT, BabyAGI, Gorilla 스타일 모델에 구성요소를 에이전트와 플러그인에 매핑하여 적용 가능하다는 점을 시연합니다.
• 동적 에이전트 생성 및 감독 메커니즘이 작업 부하를 관리하고 루프를 완화하며 협업을 개선하는 데 도움이 될 수 있습니다.
• 피드백 메커니즘(에이전트 간 피드백 및 자기 피드백)을 제안하여 지속적인 인간 입력 없이 학습과 적응을 가능하게 합니다.
• 사례 연구를 통해 다에이전트 추상화 내에서 복잡한 도메인(법정 시뮬레이션 및 소프트웨어 개발)을 모델링하는 예를 제공합니다.
• 프레임워크는 루프, 보안, 확장성, 평가, 윤리 등 한계를 식별하고 개선 및 안전장치를 논의합니다.
• 전문가 감독 에이전트가 진행 상황을 모니터링하고 정체나 편차를 방지하기 위한 중지 트리거를 작동시킬 수 있습니다.