[论文解读] On Generative Agents in Recommendation

An Zhang, Yuxin Chen+3 more|arXiv (Cornell University)|Oct 16, 2023

Topic ModelingComputer Science被引用 3

一句话总结

本文提出 Agent4Rec，一种基于大语言模型（LLM）生成智能体的推荐系统仿真器，可模拟个性化推荐系统中真实、自主的用户行为。通过整合用户档案、基于情感驱动反思的记忆模块以及多样化的动作模块，Agent4Rec 实现了对用户交互的高保真模拟，展现出与真实用户偏好高度一致的表现，同时揭示了推荐系统中过滤气泡和因果动态的深层机制。

ABSTRACT

Recommender systems are the cornerstone of today's information dissemination, yet a disconnect between offline metrics and online performance greatly hinders their development. Addressing this challenge, we envision a recommendation simulator, capitalizing on recent breakthroughs in human-level intelligence exhibited by Large Language Models (LLMs). We propose Agent4Rec, a user simulator in recommendation, leveraging LLM-empowered generative agents equipped with user profile, memory, and actions modules specifically tailored for the recommender system. In particular, these agents' profile modules are initialized using real-world datasets (e.g. MovieLens, Steam, Amazon-Book), capturing users' unique tastes and social traits; memory modules log both factual and emotional memories and are integrated with an emotion-driven reflection mechanism; action modules support a wide variety of behaviors, spanning both taste-driven and emotion-driven actions. Each agent interacts with personalized recommender models in a page-by-page manner, relying on a pre-implemented collaborative filtering-based recommendation algorithm. We delve into both the capabilities and limitations of Agent4Rec, aiming to explore an essential research question: ``To what extent can LLM-empowered generative agents faithfully simulate the behavior of real, autonomous humans in recommender systems?'' Extensive and multi-faceted evaluations of Agent4Rec highlight both the alignment and deviation between agents and user-personalized preferences. Beyond mere performance comparison, we explore insightful experiments, such as emulating the filter bubble effect and discovering the underlying causal relationships in recommendation tasks. Our codes are available at https://github.com/LehengTHU/Agent4Rec.

研究动机与目标

• 解决推荐系统中离线评估指标与在线性能之间长期存在的差距。
• 开发一个可扩展、可配置的仿真平台，真实还原推荐场景中人类般的决策行为。
• 探究基于大语言模型的生成智能体是否能够真实模拟推荐环境中自主、个性化的用户行为。
• 在受控且可复现的框架内，支持新型研究形式，包括因果发现与过滤气泡模拟。

提出的方法

• 每个仿真场景中，Agent4Rec 使用 1,000 个基于大语言模型的生成智能体，每个智能体均基于 MovieLens-1M 等真实数据集中的用户数据初始化。
• 每个智能体由三个核心模块构成：档案模块用于捕捉社交特征与历史偏好，记忆模块以自然语言记录事实性与情感记忆，动作模块支持基于品味与情绪驱动的行为。
• 记忆模块引入基于情感的反思机制，以模拟交互过程中产生的疲劳感、满足感及情绪变化。
• 智能体以逐页方式与基于协同过滤的推荐系统交互，模拟真实用户行为，如观看、评分、退出与项目评价。
• 仿真器支持基于规则与算法的推荐系统，可跨多种推荐范式进行评估。
• 智能体行为基于真实用户数据，大语言模型根据档案、记忆与上下文线索生成响应与动作，同时通过提示工程与输出验证确保行为一致性。

实验结果

研究问题

• RQ1 基于大语言模型的生成智能体在多大程度上能真实模拟推荐系统中真实、自主的人类行为？
• RQ2 在品味、多样性与从众性方面，模拟智能体与真实用户偏好的对齐程度如何？
• RQ3 Agent4Rec 是否能有效模拟推荐系统中复杂的过滤气泡效应？
• RQ4 用户行为与推荐结果之间的潜在因果关系是什么？能否通过仿真发现这些关系？

主要发现

• Agent4Rec 展现出模拟智能体行为与真实用户偏好之间高度一致，尤其在基于品味与情感驱动的行为方面表现突出。
• 仿真器成功再现了过滤气泡效应，表明对相似内容的重复曝光会强化用户偏好狭窄化。
• 智能体展现出可测量的多样性与从众性模式，与现实世界用户行为一致，验证了仿真器的代表性。
• 具备情感驱动反思的记忆模块显著提升了长期交互序列中的行为连贯性与真实性。
• 尽管存在局限性，Agent4Rec 仍可通过受控仿真实验发现推荐动态中的因果关系。
• 观察到大语言模型输出中偶发的幻觉现象，如虚构不存在的项目或不一致的评分，凸显了通过微调提升仿真稳定性的必要性。