[論文レビュー] User Behavior Simulation with Large Language Model based Agents

Lei Wang, Jingsen Zhang+12 more|arXiv (Cornell University)|Jun 5, 2023

Topic Modeling被引用数 4

ひとこと要約

本論文は、大規模言語モデル（LLM）の世界知識と推論能力を活用することで、レコメンデーションシステムやソーシャルネットワーキングサービスなどの複数のインタラクティブ環境において、現実的なユーザー行動を模倣するLLMベースのエージェントフレームワークを提案する。この手法はゼロショット設定下でも人間水準に近い行動の正確性を達成し、情報ココンや同調行動といった社会現象の高精度な模倣が可能になる。

ABSTRACT

Simulating high quality user behavior data has always been a fundamental problem in human-centered applications, where the major difficulty originates from the intricate mechanism of human decision process. Recently, substantial evidences have suggested that by learning huge amounts of web knowledge, large language models (LLMs) can achieve human-like intelligence. We believe these models can provide significant opportunities to more believable user behavior simulation. To inspire such direction, we propose an LLM-based agent framework and design a sandbox environment to simulate real user behaviors. Based on extensive experiments, we find that the simulated behaviors of our method are very close to the ones of real humans. Concerning potential applications, we simulate and study two social phenomenons including (1) information cocoons and (2) user conformity behaviors. This research provides novel simulation paradigms for human-centered applications.

研究の動機と目的

• 簡素化された意思決定モデルや実世界のデータに依存する従来のユーザー行動シミュレーション手法の限界を解消すること。
• LLMを用いて実世界の訓練データなしにゼロショットでユーザー行動を生成できるようにすることで、シミュレーションにおける「鶏と卵の問題」を克服すること。
• 多様な文脈におけるユーザー行動の相互依存性を捉えることのできる、マルチ環境シミュレーションフレームワークを構築すること。
• 現実的でLLM駆動のユーザーエージェントを用いて、情報ココンや同調行動といった顕在的かつ複雑な社会現象を研究すること。
• LLMベースのエージェントを用いて、人間中心のAIアプリケーションのための新しいシミュレーションパラダイムを確立すること。

提案手法

• レコメンデーションシステムやソーシャルメディアプラットフォームを含む、実世界のユーザーインタラクションシナリオを模倣するサンドボックス環境を設計する。
• 自然言語による推論と世界知識を用いてユーザー意思決定をシミュレートするLLMベースのエージェントを訓練および展開する。
• 主な行動のテンプレートを実装する：映画の購入、ページのナビゲーション、検索、退去、感情の生成、会話の開始、ソーシャルメディアへの投稿。
• プロンプト工学を用いてエージェントが文脈的に適切な行動を取れるように誘導し、観察されたユーザー行動パターンと一貫性を保つ。
• 複数ターンの対話を統合して、環境をまたいで動的かつ進化的に変化するユーザーインタラクションをシミュレートする。
• 事前学習済みLLMを活用することで、実際のユーザーデータに対する微調整なしにゼロショットシミュレーションを可能にする。

Figure 1 : a , A brief running process of the simulator. b , The agent framework, which includes a profile module, a memory module, and an action module. c , Key characters of the simulator. Different agents behave in a round-by-round manner based on Pareto distribution, where, in each round, only a

実験結果

リサーチクエスチョン

• RQ1 LLMベースのエージェントは、マルチ環境設定下で、実際の人間の行動と区別がつかないユーザー行動を生成できるか？
• RQ2 実世界の訓練データにアクセスしない状況下で、LLMエージェントは情報ココンや同調行動といった複雑な社会現象をどの程度正確にシミュレートできるか？
• RQ3 従来の実データ依存のシミュレーション手法と比較して、LLMベースのエージェントはゼロショットシミュレーションにおいてどのように性能を発揮するか？
• RQ4 LLMエージェントは、視聴、会話、投稿などの複数の対話モodal（モダリティ）において、行動の一貫性と文脈的適合性を維持できるか？
• RQ5 複数のLLMエージェントを共有のシミュレーション環境に展開した際、どのような顕在的かつ社会的ダイナミクスが観察されるか？

主な発見

• LLMベースのエージェントが生成するシミュレート行動は非常に現実的であり、レコメンデーションシステムおよびソーシャルネットワークの両方で実際の人間の行動に類似している。
• このフレームワークはゼロショットシミュレーションを可能にし、実世界の訓練データが一切不要である。
• エージェントは情報ココンやユーザーの同調行動といった複雑な社会現象を効果的にシミュレートし、現実的な社会的ダイナミクスの顕在を示している。
• エージェントは、社会的サインへの適切な反応、感情の反映、ターゲットコンテンツの検索といった文脈に即した意思決定を示している。
• このシミュレーションフレームワークは、マルチモーダルかつマルチ環境のインタラクションをサポートしており、クロスプラットフォームのユーザー行動の現実的なモデリングを可能にしている。
• 本手法は、簡素化されたモデルや実データ依存に依存する従来のシミュレーション技術を上回り、人間中心のAI研究分野における応用範囲が広がる。

Figure 2 : Evaluation on the believability of the simulated user behaviors. a , Evaluation on the recommendation behaviors based on different $(a,b)$ ’s (discrimination capability). b , Evaluation on the recommendation behaviors based on different $N$ ’s (generation capability). c , Evaluation on th