[논문 리뷰] RecMind: Large Language Model Powered Agent For Recommendation

Yan-Cheng Wang, Ziyan Jiang외 8명|arXiv (Cornell University)|2023. 08. 28.

Topic ModelingComputer Science인용 수 3

한 줄 요약

RecMind는 자기자극적 계획, 기억 통합 및 도구 사용을 통해 개인화된 추천을 향상시키는 대규모 언어모델 기반 자율 에이전트입니다. 제로/소수 샘플 기반 LLM 기준 모델 및 완전 미세조정 전문 모델(P5)과 비교해도 경쟁적인 성능을 기록하며, 평점 예측, 순차적 추천, 설명 생성, 리뷰 요약 등에서 뛰어난 성능을 보입니다.

ABSTRACT

While the recommendation system (RS) has advanced significantly through deep learning, current RS approaches usually train and fine-tune models on task-specific datasets, limiting their generalizability to new recommendation tasks and their ability to leverage external knowledge due to model scale and data size constraints. Thus, we designed an LLM-powered autonomous recommender agent, RecMind, which is capable of leveraging external knowledge, utilizing tools with careful planning to provide zero-shot personalized recommendations. We propose a Self-Inspiring algorithm to improve the planning ability. At each intermediate step, the LLM self-inspires to consider all previously explored states to plan for the next step. This mechanism greatly improves the model's ability to comprehend and utilize historical information in planning for recommendation. We evaluate RecMind's performance in various recommendation scenarios. Our experiment shows that RecMind outperforms existing zero/few-shot LLM-based recommendation baseline methods in various tasks and achieves comparable performance to a fully trained recommendation model P5.

연구 동기 및 목표

• LLM을 개인화된 추천 작업에 활용하는 데 있어 추론 및 도구 활용 측면의 격차를 메우기 위한 것.
• 이전 추론 경로를 유지하고 통합함으로써 추천을 위한 LLM 에이전트의 계획 능력을 향상시키기 위한 것.
• 특정 작업에 대한 미세조정 없이도 추천 작업(예: 평점 예측, 설명 생성 등) 전반에 걸쳐 일반화할 수 있도록 하기 위한 것.
• 자기자극적 계획이 추천 정확도 및 설명 품질 향상에 얼마나 효과적인지 평가하기 위한 것.

제안 방법

• 세 가지 핵심 구성요소(계획, 기억(개인화된 지식 및 세계 지식), 도구)를 갖춘 자율 에이전트 프레임워크 설계.
• 모든 이전에 탐색된 추론 상태를 각 계획 단계에서 유지하고 통합함으로써 의사결정 품질을 향상시키는 Self-Inspiring(SI) 계획 도입.
• 추천 작업에서 다단계 추론을 체계적으로 수행하기 위해 사고-행동-관찰(TAO) 프레임워크 활용.
• 개인화된 기억(사용자별 데이터)과 세계 지식(외부 도구)을 활용해 관련성과 정확도 향상.
• 특정 도메인의 예시를 활용한 소수 샘플 프롬프팅을 통해 제로/소수 샘플 일반화 능력을 향상시키며, 특히 다중 도메인 환경에서 유의미한 성능 향상을 이룸.
• 결과 경로 중 열등한 경로를 제거하기 위해 투표 기반 평가기 사용으로 계획의 강건성 향상.

실험 결과

연구 질문

• RQ1 자기자극적 계획을 갖춘 LLM 기반 에이전트가 기존의 체인오브thought(ToT) 및 트리오브thought(ToT) 방법보다 추천 작업에서 뛰어난 성능을 보일 수 있는가?
• RQ2 자기자극적 계획 메커니즘이 이전 추론 경로를 얼마나 효과적으로 통합하여 추천 정확도를 향상시키는가?
• RQ3 소수 샘플 및 내부 도메인 지식을 활용할 때 RecMind는 새로운 도메인으로의 일반화 능력이 어느 정도인가?
• RQ4 완전히 미세조정된 모델(P5) 및 소수 샘플 LLM 기준 모델과 비교해 RecMind의 설명 품질과 논리성은 얼마나 뛰어나게 되는가?

주요 결과

• RecMind-SI는 미리 훈련된 뷰티 도메인에서 토이즈 및 스포츠 도메인으로의 전이 시 평점 예측에서 MAE 0.6245를 기록하며, P5(0.7013)와 ChatGPT(0.6895)를 모두 능가함.
• 스포츠 도메인에서 직접 추천 시 RecMind-SI는 HR@5 0.1124를 기록하며, P5(0.1007)와 ChatGPT(0.0721)를 초월함.
• 설명 생성 작업에서 RecMind-SI는 스포츠 도메인에서 BLEU2 점수 1.0537을 기록하며, P5(0.8924)와 ChatGPT(0.8795)를 능가함.
• 인간 평가 결과 RecMind-SI는 설명 순위 상위 1위 비율 평균 34.7%를 기록하며, P5(3.7%)와 ChatGPT(18.7%)에 비해 유의미하게 높음.
• 설명 생성 및 리뷰 요약을 포함한 모든 작업에서 RecMind-SI는 완전 미세조정된 P5 모델과 경쟁 가능한 성능 기록.
• 그림 1에서 보듯이, 자기자극적 메커니즘이 ToT나 CoT보다 더 우수한 추론 경로 통합 능력을 보이며, 평점 예측 정확도 향상에 기여함.