[論文レビュー] Exploring Large Language Model based Intelligent Agents: Definitions, Methods, and Prospects

Yuheng Cheng, Ceyao Zhang+9 more|arXiv (Cornell University)|Jan 7, 2024

Topic Modeling被引用数 36

ひとこと要約

LLMベースのインテリジェントエージェントの包括的な調査で、定義、単一エージェントおよびマルチエージェントの枠組み、コア要素、評価、データセット、応用、将来の方向性を網羅。

ABSTRACT

Intelligent agents stand out as a potential path toward artificial general intelligence (AGI). Thus, researchers have dedicated significant effort to diverse implementations for them. Benefiting from recent progress in large language models (LLMs), LLM-based agents that use universal natural language as an interface exhibit robust generalization capabilities across various applications -- from serving as autonomous general-purpose task assistants to applications in coding, social, and economic domains, LLM-based agents offer extensive exploration opportunities. This paper surveys current research to provide an in-depth overview of LLM-based intelligent agents within single-agent and multi-agent systems. It covers their definitions, research frameworks, and foundational components such as their composition, cognitive and planning methods, tool utilization, and responses to environmental feedback. We also delve into the mechanisms of deploying LLM-based agents in multi-agent systems, including multi-role collaboration, message passing, and strategies to alleviate communication issues between agents. The discussions also shed light on popular datasets and application scenarios. We conclude by envisioning prospects for LLM-based agents, considering the evolving landscape of AI and natural language processing.

研究の動機と目的

• LLM の文脈におけるインテリジェントエージェントを定義し、RL ベースのエージェントと対比する。
• LLM ベースのエージェントシステム（単一エージェントおよびマルチエージェント）に対する統一的なフレームワークを提示し、主要な構成要素と相互作用を強調する。
• LLM ベースのエージェントに関する既存データセット、評価ベンチマーク、および典型的なアプリケーション領域を要約する。
• マルチモーダルモデルを含む課題・トレンド・将来の方向性、セキュリティの考慮事項を議論する。

提案手法

• 言語モデル、目的、記憶、行動、再考成分を捉える quintuple V=(L,O,M,A,R) として LLM ベースのエージェントの形式的表現を提案する。
• エージェントシステムを単一エージェント型とマルチエージェント型のパラダイムに分類し、それらの記憶、計画、ツールの使用、環境との相互作用を論じる。
• LLM エージェントの計画手法をレビューし、インコンテキスト学習アプローチ（CoT、ToT、GoT など）や外部計画統合（PDDL、象徴的プランナー、Monte Carlo Tree Search）を含む。
• メモリアーキテクチャ（短期 vs 長期、知識グラフ、ベクトルストア、データベース、API 連携）とその検索/取得戦略を調査する。
• 迅速な実験とデプロイを支援するエージェントテンプレートおよび開発テンプレート（ToolLLM、AutoGPT、LangChain など）を要約する。

実験結果

リサーチクエスチョン

• RQ1 単一エージェント設定とマルチエージェント設定におけるLLMベースのインテリジェントエージェントの中核的定義と区分は何か。
• RQ2 頑健なLLMベースのエージェントを実現する上で、どのアーキテクチャ、計画戦略、記憶システムが最も効果的か。
• RQ3 現在の研究を支配しているデータセット、ベンチマーク、アプリケーション領域は何か、どのような課題と方向性が今後の研究を導くか。

主な発見

• LLM ベースのエージェントは自然言語による推論と計画・実行を組み合わせ、強力な汎化能力と対話性を提供する。
• 単一エージェント系とマルチエージェント系は、記憶、環境との相互作用、ツール使用、コミュニケーション戦略など、異なる設計上の考慮事項を示す。
• LLM ベースのエージェントの計画は、インコンテキスト推論技術（CoT、ToT、GoT など）を活用し、外部プランナーやモンテカルロ法で補強できる。
• 記憶アーキテクチャは、短期の対話履歴から、知識グラフ、ベクトルデータベース、API を介した長期保管まで幅があり、想起と知識管理を可能にする。
• ToolLLM、AutoGPT、LangChain などの豊富なテンプレートとフレームワークが、LLM ベースのエージェントの迅速な開発と実験を支援する。
• この調査は、自然科学・社会科学、工学、一般的な自律タスクにわたる多様な適用分野を概説し、文脈長、知識の更新、セキュリティなどの課題を議論する。