[논문 리뷰] On Generative Agents in Recommendation

An Zhang, Yuxin Chen외 3명|arXiv (Cornell University)|2023. 10. 16.

Topic ModelingComputer Science인용 수 3

한 줄 요약

이 논문은 개인화된 추천 시스템에서 실제적이고 자율적인 사용자 행동을 모방하기 위해 LLM 기반 생성형 에이전트를 사용하는 추천 시뮬레이터인 Agent4Rec를 소개한다. 사용자 프로필, 정서 기반 반사 기능을 갖춘 메모리 모듈, 그리고 다양한 동작 모듈을 통합함으로써 Agent4Rec는 사용자 상호작용을 고해상도로 시뮬레이션할 수 있으며, 실제 사용자 선호도와 강한 일치를 보이며 추천 시스템 내에서 필터 버블과 인과적 역학에 대한 통찰을 제공한다.

ABSTRACT

Recommender systems are the cornerstone of today's information dissemination, yet a disconnect between offline metrics and online performance greatly hinders their development. Addressing this challenge, we envision a recommendation simulator, capitalizing on recent breakthroughs in human-level intelligence exhibited by Large Language Models (LLMs). We propose Agent4Rec, a user simulator in recommendation, leveraging LLM-empowered generative agents equipped with user profile, memory, and actions modules specifically tailored for the recommender system. In particular, these agents' profile modules are initialized using real-world datasets (e.g. MovieLens, Steam, Amazon-Book), capturing users' unique tastes and social traits; memory modules log both factual and emotional memories and are integrated with an emotion-driven reflection mechanism; action modules support a wide variety of behaviors, spanning both taste-driven and emotion-driven actions. Each agent interacts with personalized recommender models in a page-by-page manner, relying on a pre-implemented collaborative filtering-based recommendation algorithm. We delve into both the capabilities and limitations of Agent4Rec, aiming to explore an essential research question: ``To what extent can LLM-empowered generative agents faithfully simulate the behavior of real, autonomous humans in recommender systems?'' Extensive and multi-faceted evaluations of Agent4Rec highlight both the alignment and deviation between agents and user-personalized preferences. Beyond mere performance comparison, we explore insightful experiments, such as emulating the filter bubble effect and discovering the underlying causal relationships in recommendation tasks. Our codes are available at https://github.com/LehengTHU/Agent4Rec.

연구 동기 및 목표

• 추천 시스템에서 오프라인 평가 지표와 온라인 성능 사이의 지속적인 격차를 해소하기 위해.
• 사람과 유사한 의사결정을 충실하게 재현하는 확장성 있고 구성 가능한 시뮬레이션 플랫폼을 개발하기 위해.
• LLM 기반 생성형 에이전트가 추천 환경에서 실제 자율적이고 개인화된 사용자 행동을 현실적으로 시뮬레이션할 수 있는지 탐구하기 위해.
• 제어 가능하고 재현 가능한 프레임워크 내에서 인과 발견 및 필터 버블 시뮬레이션과 같은 새로운 형태의 연구를 가능하게 하기 위해.

제안 방법

• Agent4Rec는 각 시뮬레이션 시나리오당 1,000개의 LLM 기반 생성형 에이전트를 사용하며, 각 에이전트는 MovieLens-1M 등의 데이터셋에서 확보한 실제 세계 사용자 데이터로 초기화된다.
• 각 에이전트는 세 가지 핵심 모듈로 구성된다: 사회적 특성과 역대 선호도를 기록하는 프로필 모듈, 자연어로 기록된 사실적 기억과 정서적 기억을 보관하는 메모리 모듈, 취향 기반 및 정서 기반 행동을 지원하는 동작 모듈.
• 메모리 모듈은 상호작용 도중 피로감, 만족도, 정서적 변화를 모의하기 위해 정서 기반 반사 메커니즘을 통합한다.
• 에이전트들은 페이지 단위로 협업 필터링 기반 추천 시스템과 상호작용하며, 시청, 평가, 종료, 항목 평가 등의 실시간 사용자 행동을 시뮬레이션한다.
• 시뮬레이터에서는 룰 기반 및 알고리즘 기반 추천자 모두를 지원하여 다양한 추천 패러다임에 대한 평가가 가능하다.
• 에이전트 행동은 실제 사용자 데이터에 기반하며, LLM이 프로필, 메모리, 맥락적 신호를 바탕으로 응답과 행동을 생성하고, 프롬프트 엔지니어링과 출력 검증을 통해 일관성을 유지한다.

실험 결과

연구 질문

• RQ1 LLM 기반 생성형 에이전트는 얼마나 정확하게 추천 시스템 내에서 실제 자율적 인간의 행동을 시뮬레이션할 수 있는가?
• RQ2 취향, 다양성, 준거성 측면에서 시뮬레이션된 에이전트는 실제 사용자 선호도와 얼마나 잘 일치하는가?
• RQ3 Agent4Rec는 추천 시스템 내에서 필터 버블 효과와 같은 복잡한 현상을 효과적으로 모의할 수 있는가?
• RQ4 사용자 행동과 추천 결과 간의 인과 관계는 무엇이며, 이를 시뮬레이션을 통해 밝혀낼 수 있는가?

주요 결과

• Agent4Rec는 취향 기반 및 정서적 영향을 받는 행동 측면에서 실제 사용자 선호도와 강력한 일치를 보여주었다.
• 시뮬레이터는 필터 버블 효과를 성공적으로 재현하였으며, 유사한 콘텐츠에 반복적으로 노출될수록 선호도가 좁아지는 경향을 보였다.
• 에이전트는 실제 세계 사용자 행동과 일치하는 측정 가능한 다양성 및 준거성 패턴을 보였으며, 이는 시뮬레이터의 대표성에 대한 검증을 제공했다.
• 정서 기반 반사 기능을 갖춘 메모리 모듈은 특히 장기적 상호작용 시퀀스에서 행동의 일관성과 현실감을 향상시켰다.
• 한계가 존재하지만, Agent4Rec는 제어된 시뮬레이션 실험을 통해 추천 동역학 내 인과 관계의 탐색이 가능함을 입증했다.
• LLM 출력에서 일부 환각 현상(존재하지 않는 항목을 창출하거나 일관성 없는 평가를 내는 것)이 관찰되어, 시뮬레이션 안정성을 향상시키기 위해 미세조정이 필요함을 시사했다.