[論文レビュー] On Generative Agents in Recommendation

An Zhang, Yuxin Chen+3 more|arXiv (Cornell University)|Oct 16, 2023

Topic ModelingComputer Science被引用数 3

ひとこと要約

本論文では、個人向け推薦システムにおける現実的で自律的なユーザー行動を模倣するために、LLM駆動の生成エージェントを用いた推薦シミュレータ「Agent4Rec」を紹介する。ユーザーのプロフィール、感情駆動のリフレクションを備えたメモリモジュール、多様なアクションモジュールを統合することで、Agent4Recはユーザーのインタラクションを高精細にシミュレート可能であり、実際のユーザーの好みと強い整合性を示す一方で、フィルターバブルや推薦における因果的ダイナミクスに関する洞察を明らかにする。

ABSTRACT

Recommender systems are the cornerstone of today's information dissemination, yet a disconnect between offline metrics and online performance greatly hinders their development. Addressing this challenge, we envision a recommendation simulator, capitalizing on recent breakthroughs in human-level intelligence exhibited by Large Language Models (LLMs). We propose Agent4Rec, a user simulator in recommendation, leveraging LLM-empowered generative agents equipped with user profile, memory, and actions modules specifically tailored for the recommender system. In particular, these agents' profile modules are initialized using real-world datasets (e.g. MovieLens, Steam, Amazon-Book), capturing users' unique tastes and social traits; memory modules log both factual and emotional memories and are integrated with an emotion-driven reflection mechanism; action modules support a wide variety of behaviors, spanning both taste-driven and emotion-driven actions. Each agent interacts with personalized recommender models in a page-by-page manner, relying on a pre-implemented collaborative filtering-based recommendation algorithm. We delve into both the capabilities and limitations of Agent4Rec, aiming to explore an essential research question: ``To what extent can LLM-empowered generative agents faithfully simulate the behavior of real, autonomous humans in recommender systems?'' Extensive and multi-faceted evaluations of Agent4Rec highlight both the alignment and deviation between agents and user-personalized preferences. Beyond mere performance comparison, we explore insightful experiments, such as emulating the filter bubble effect and discovering the underlying causal relationships in recommendation tasks. Our codes are available at https://github.com/LehengTHU/Agent4Rec.

研究の動機と目的

• 推薦システムにおけるオフライン評価指標とオンラインパフォーマンスの間の継続的なギャップに対処すること。
• 人間らしい意思決定を忠実に再現できるスケーラブルで設定可能なシミュレーションプラットフォームの開発。
• LLMで強化された生成エージェントが、推薦環境において現実的かつ自律的でパーソナライズされたユーザー行動を模倣できるかの検証。
• 制御可能で再現性のあるフレームワーク内で、因果的発見やフィルターバブルシミュレーションを含む新しい研究形態の実現。

提案手法

• 各シミュレーションシナリオに1,000体のLLM駆動の生成エージェントを用い、MovieLens-1Mなどのデータセットから得た現実世界のユーザーデータで初期化する。
• 各エージェントは、社会的特徴と歴史的好みを捉えるプロフィールモジュール、事実的および感情的記憶を自然言語でログ記録するメモリモジュール、嗜好駆動および感情駆動の行動をサポートするアクションモジュールの3つのコアモジュールで構成される。
• メモリモジュールには、インタラクション中に疲労感、満足度、感情の変化を模倣する感情駆動のリフレクション機構を統合している。
• エージェントはページ単位で協調フィルタリングベースの推薦システムと相互作用し、視聴、評価、退出、アイテム評価などのリアルタイムユーザー行動をシミュレートする。
• ルールベースおよびアルゴリズムベースの推薦者を両方サポートしており、多様な推薦パラダイムにおける評価が可能である。
• エージェント行動は実際のユーザーのデータに基づき、LLMがプロフィール、メモリ、文脈的キューをもとに応答と行動を生成するが、プロンプト工学と出力検証により一貫性を維持している。

実験結果

リサーチクエスチョン

• RQ1 LLMで強化された生成エージェントは、推薦システムにおいて現実的で自律的な人間の行動をどれほど忠実にシミュレートできるか。
• RQ2 嗜好、多様性、適合性の観点から、シミュレートされたエージェントの行動は実際のユーザーの好みとどの程度一致するか。
• RQ3 Agent4Recは、推薦システムにおけるフィルターバブル効果を効果的に再現できるか。
• RQ4 ユーザー行動と推薦結果の背後にある因果的関係は何か。また、シミュレーションによってそれらを同定できるか。

主な発見

• Agent4Recは、嗜好駆動および感情に基づいた行動において、シミュレートされたエージェント行動と実際のユーザーの好みの間で強い整合性を示している。
• シミュレータはフィルターバブル効果を効果的に再現しており、類似したコンテンツへの繰り返しの露出が偏った好みを強化する様子を示している。
• エージェントは実世界のユーザー行動と整合的な明確な多様性と適合性のパターンを示しており、シミュレータの代表性が裏付けられている。
• 感情駆動のリフレクションを備えたメモリモジュールは、特に長期にわたる相互作用シーケンスにおいて行動の一貫性と現実性を向上させている。
• 限界は存在するが、Agent4Recは制御されたシミュレーション実験を通じて、推薦ダイナミクスにおける因果関係の同定を可能としている。
• LLM出力における偶発的な幻覚（存在しないアイテムの虚偽生成や一貫性のない評価）が観察されたため、シミュレーションの安定性を向上させるためにファインチューニングの必要性が浮き彫りになった。