[논문 리뷰] Recommender AI Agent: Integrating Large Language Models for Interactive Recommendations

Xu Huang, Jianxun Lian외 4명|arXiv (Cornell University)|2023. 08. 31.

Topic Modeling인용 수 10

한 줄 요약

본 논문은 InteRecAgent를 제시합니다. 이는 대형 언어 모델을 뇌로, 전통적인 추천 도구를 엔진으로 사용하는 컴팩트한 LLM 기반 프레임워크로, 메모리, 계획, 반성을 통한 대화형 추천을 가능하게 합니다.

ABSTRACT

Recommender models excel at providing domain-specific item recommendations by leveraging extensive user behavior data. Despite their ability to act as lightweight domain experts, they struggle to perform versatile tasks such as providing explanations and engaging in conversations. On the other hand, large language models (LLMs) represent a significant step towards artificial general intelligence, showcasing remarkable capabilities in instruction comprehension, commonsense reasoning, and human interaction. However, LLMs lack the knowledge of domain-specific item catalogs and behavioral patterns, particularly in areas that diverge from general world knowledge, such as online e-commerce. Finetuning LLMs for each domain is neither economic nor efficient. In this paper, we bridge the gap between recommender models and LLMs, combining their respective strengths to create a versatile and interactive recommender system. We introduce an efficient framework called extbf{InteRecAgent}, which employs LLMs as the brain and recommender models as tools. We first outline a minimal set of essential tools required to transform LLMs into InteRecAgent. We then propose an efficient workflow within InteRecAgent for task execution, incorporating key components such as memory components, dynamic demonstration-augmented task planning, and reflection. InteRecAgent enables traditional recommender systems, such as those ID-based matrix factorization models, to become interactive systems with a natural language interface through the integration of LLMs. Experimental results on several public datasets show that InteRecAgent achieves satisfying performance as a conversational recommender system, outperforming general-purpose LLMs. The source code of InteRecAgent is released at https://aka.ms/recagent.

연구 동기 및 목표

• LLMs의 일반적 역량과 도메인 특화 추천 시스템의 필요 사이의 격차를 해소한다.
• 권장 시스템을 자연어 인터페이스를 통해 대화형으로 만든다.
• 도구 사용과 강인성을 향상시키기 위한 메모리, 계획, 반성 모듈을 제안한다.
• 소형 언어 모델이 추천 태스크에서 뇌를 모방하도록 한다.
• 공개 데이터셋에서 효과를 입증하고 소형 모델용 RecLlama를 공개한다.

제안 방법

• LLM 주도 인터랙티브 추천을 위한 최소 도구 세트를 정의한다(정보 질의, 항목 검색, 랭킹).
• 도구 간에 아이템 후보를 스트리밍하기 위한 Candidate Bus 메모리를 도입한다.
• 대화 간에 개인화된 추천을 위해 장기 및 단기 사용자 프로필을 유지한다.
• 프롤리스트? 계획 우선 실행과 동적 시연을 채택하여 프롬프트와 API 호출을 감소시킨다.
• 도구 사용 중 오류를 식별하고 수정하기 위해 actor-critic 반성 메커니즘을 도입한다.
• RecLlama (7B)를 GPT-4로 생성된 도구 계획 데이터를 활용한 모방 데이터셋으로 미세조정하여 학습시킨다.

실험 결과

연구 질문

• RQ1 LLMs를 전통적인 추천 도구와 어떻게 통합하여 인터랙티브하고 자연어 기반의 추천을 가능하게 할 수 있는가?
• RQ2 메모리, 계획, 반성 모듈이 도구 사용 정확도와 최종 추천에 개선을 가져오는가?
• RQ3 GPT-4로 생성된 데이터로 학습된 소형 언어 모델이 추천 에이전트의 뇌 역할에서 경쟁력 있는 성능에 도달할 수 있는가?

주요 결과

• InteRecAgent는 여러 공개 데이터셋에서 경쟁력 있는 대화형 추천 성능을 달성한다.
• Plan-first 실행 전략은 단계별 접근법에 비해 API 호출과 지연 시간을 줄인다.
• 동적 시연은 현재 사용자의 의도와 가장 유사한 시연을 선택함으로써 계획 품질을 향상시킨다.
• 메모리 모듈(Candidate Bus 및 사용자 프로필)은 장기간 대화에서 확장 가능한 커뮤니케이션과 개인화를 가능하게 한다.
• RecLlama, GPT-4에서 파생된 데이터로 미세조정된 7B 모델은 추천 에이전트 역할에서 더 큰 모델들보다 성능이 우수하다.
• 실험은 월드-지식 커버리지가 덜한 도메인(예: Beauty 데이터셋)에서 강한 이점을 보여준다.