[論文レビュー] CompeteAI: Understanding the Competition Dynamics in Large Language Model-based Agents

Qinlin Zhao, Jindong Wang+5 more|arXiv (Cornell University)|Oct 26, 2023

FinTech, Crowdfunding, Digital Finance被引用数 7

ひとこと要約

本論文では、レストランおよび顧客エージェントを備えたシミュレートされたバーチャルタウンを用いて、LLMベースのエージェントにおける競争ダイナミクスを研究するためのフレームワーク、CompeteAIを紹介する。GPT-4を用いて、競争環境が戦略的適応、社会的学習、およびサービス品質の向上を促すことを示した。これは社会学的および経済学的理論と整合しており、LLMエージェントが現実世界の競争システムをシミュレートする可能性を示している。

ABSTRACT

Large language models (LLMs) have been widely used as agents to complete different tasks, such as personal assistance or event planning. While most of the work has focused on cooperation and collaboration between agents, little work explores competition, another important mechanism that promotes the development of society and economy. In this paper, we seek to examine the competition dynamics in LLM-based agents. We first propose a general framework for studying the competition between agents. Then, we implement a practical competitive environment using GPT-4 to simulate a virtual town with two types of agents, restaurant agents and customer agents. Specifically, the restaurant agents compete with each other to attract more customers, where competition encourages them to transform, such as cultivating new operating strategies. Simulation experiments reveal several interesting findings at the micro and macro levels, which align well with existing market and sociological theories. We hope that the framework and environment can be a promising testbed to study competition that fosters understanding of society. Code is available at: https://github.com/microsoft/competeai.

研究の動機と目的

• LLMベースのエージェント間の競争行動を理解するという研究ギャップに取り組むこと。これは協調的行動と比較して、まだ十分に検討されていない。
• LLMベースのエージェントシステムにおける競争を研究するための汎用的フレームワークを開発すること。
• GPT-4を用いて、多様な嗜好を持つ顧客をめぐって競争するレストランエージェントを含む、現実的な競争環境をシミュレートすること。
• 競争が自律的エージェントにおける戦略的適応、模倣、イノベーションをどのように促進するかを調査すること。
• 社会学的および経済学的理論（社会的学習理論や市場競争理論など）と照らして、発見を検証すること。

提案手法

• LLMベースのエージェントにおける競争ダイナミクスを体系的かつ包括的に研究できる一般化可能なフレームワーク、CompeteAIを提唱する。
• レストランエージェント（業務管理）と顧客エージェント（体験評価）の2種類のエージェントを備えたバーチャルタウン環境を設計する。
• GPT-4を用いてエージェントを実装し、テキストベースのシミュレーションにおいて自然言語による推論と意思決定を可能にする。
• 収入、嗜好、健康状態、食事制限などの多様な特性を顧客エージェントに付与し、現実世界の多様性を反映させる。
• レストランエージェントが戦略的な改善を通じて顧客を惹きつける・維持する仕組みとして、競争を定義する。
• 繰り返しの相互作用とフィードバックループを用いて、模倣、差別化、サービス最適化といった顕在的行動を観察する。

Figure 1: (A) We construct an environment for agents that fosters competitive behaviors, aligning with established sociological and economic theories. (B) We implement LLM-based restaurant agents and customer agents in a competitive environment.

実験結果

リサーチクエスチョン

• RQ1 LLMベースのエージェントは、構造化されたシミュレーションにおいて競争環境をどのように認識し、反応するか？
• RQ2 競合するエージェントは、模倣や差別化といった社会的学習行動をどの程度示すか？
• RQ3 市場競争は、LLMベースのエージェントシステムにおけるサービス品質と顧客満足度にどのように影響するか？
• RQ4 持続的な競争的圧力下で、レストランエージェントにどのような戦略的適応が生じるか？
• RQ5 観察された行動は、既存の社会学的および経済学的理論（競争理論）とどの程度整合するか？

主な発見

• LLMベースのエージェントは、シミュレートされた環境における競争的ダイナミクスを正確に認識・応答する文脈的熟達を示した。
• 競合するエージェントは、互いに模倣しつつも、同時に戦略を差別化しており、これは社会的学習理論と整合している。
• 競争は、サービス品質の測定可能な向上と顧客中心の戦略開発を促進し、市場競争理論と整合している。
• 持続的な競争的圧力の下で、エージェントはメニューの革新やターゲット広告など、新たな運営戦略を進化させた。
• シミュレーションでは、リーダーとなるエージェントが不釣り合いな優位性を得るマシュー効果が明らかになった。これは現実世界の競争ダイナミクスを反映している。
• 上位のエージェント間で価格の一貫性が観察された。これは、競争下での価格行動に戦略的合理性が存在することを示唆している。

Figure 2: A general framework for studying the competition between AI agents. Our framework consists of four main components: environment selection, environment setup, simulation execution, and analysis. Environment setup is the key component, where competitors and judges interact with each other an