[논문 리뷰] LLaRA: Large Language-Recommendation Assistant

Jiayi Liao, Sihang Li외 5명|arXiv (Cornell University)|2023. 12. 05.

Topic Modeling인용 수 5

한 줄 요약

LLaRA는 사전에 훈련된 순차적 추천 모델의 ID 기반 임베딩과 텍스트 기반 항목 특징을 학습 가능한 어댑터를 통해 융합함으로써 기존의 순차적 추천 모델과 대규모 언어 모델(Large Language Models, LLMs)을 융합하는 하이브리드 프레임워크를 제안한다. 교육 과정 학습 전략을 통해 LLM을 사용자 행동 패턴에 점차적으로 맞추어, MovieLens 및 Steam 데이터셋에서 기존의 기준 모델들보다 유의미하게 향상된 순차적 추천 성능을 달성한다.

ABSTRACT

Sequential recommendation aims to predict users' next interaction with items based on their past engagement sequence. Recently, the advent of Large Language Models (LLMs) has sparked interest in leveraging them for sequential recommendation, viewing it as language modeling. Previous studies represent items within LLMs' input prompts as either ID indices or textual metadata. However, these approaches often fail to either encapsulate comprehensive world knowledge or exhibit sufficient behavioral understanding. To combine the complementary strengths of conventional recommenders in capturing behavioral patterns of users and LLMs in encoding world knowledge about items, we introduce Large Language-Recommendation Assistant (LLaRA). Specifically, it uses a novel hybrid prompting method that integrates ID-based item embeddings learned by traditional recommendation models with textual item features. Treating the "sequential behaviors of users" as a distinct modality beyond texts, we employ a projector to align the traditional recommender's ID embeddings with the LLM's input space. Moreover, rather than directly exposing the hybrid prompt to LLMs, a curriculum learning strategy is adopted to gradually ramp up training complexity. Initially, we warm up the LLM using text-only prompts, which better suit its inherent language modeling ability. Subsequently, we progressively transition to the hybrid prompts, training the model to seamlessly incorporate the behavioral knowledge from the traditional sequential recommender into the LLM. Empirical results validate the effectiveness of our proposed framework. Codes are available at https://github.com/ljy0ustc/LLaRA.

연구 동기 및 목표

• 기존의 LLM 기반 순차적 추천 방법은 모두 ID 기반 또는 텍스트 기반의 항목 표현에 의존하여 사용자 행동 패턴이나 세계 지식을 완전히 반영하지 못하는 한계를 해결한다.
• 사용자 상호작용 시퀀스를 새로운 모odal로 간주함으로써, 전통적인 순차적 추천 모델(사용자 행동을 모델링함)과 LLM(세계 지식을 지님) 사이의 모달 갭을 해소한다.
• 텍스트 및 행동 임베딩을 조합한 하이브리드 프롬프트를 점진적으로 도입하는 교육 과정 학습 전략을 통해 LLM을 순차적 사용자 행동 패턴에 더 잘 맞춘다.
• LLM의 세계 지식과 전통적 추천 모델의 순차적 행동 패턴을 융합함으로써 더 높은 추천 정확도를 달성함을 입증한다.

제안 방법

• 사전에 훈련된 순차적 추천 모델의 ID 기반 임베딩과 텍스트 메타데이터(예: 항목 제목)를 융합하는 하이브리드 프롬프팅 방법을 제안한다.
• ID 기반 임베딩을 LLM의 입력 공간으로 매핑하기 위한 학습 가능한 어댑터(선형 프로젝터)를 도입하여 행동 패턴의 원활한 통합을 가능하게 한다.
• 교육 과정 학습 전략을 구현: 먼저 LLM을 텍스트 전용 프롬프트로 미세조정하여 언어 모델링과의 정렬을 이루고, 점차적으로 행동 임베딩을 포함한 하이브리드 프롬프트를 도입한다.
• LoRA 스타일의 파rameter 효율적 미세조정을 사용하고, 코사인 학습률 스케줄러와 반정밀도 훈련을 통해 효율성과 메모리 사용을 최적화한다.
• 교차 엔트로피 손실을 사용하여 다음 항목 예측 문제에 대해 어댑터와 LLM을 함께 훈련하며, 초모델은 그리드 서치를 통해 최적화한다.
• 과적합을 방지하기 위해 가중치 감소(1e-5)와 조기 정지 기법을 적용하고, 다섯 개의 랜덤 시드 평균을 통해 결과를 보고한다.

실험 결과

연구 질문

• RQ1 순차적 추천 모델의 ID 기반 임베딩과 텍스트 기반 항목 특징을 융합하면 LLM 기반 순차적 추천 성능이 향상되는가?
• RQ2 점진적으로 행동 임베딩을 도입하는 교육 과정 학습 전략이 LLM의 순차적 사용자 패턴 정렬에 기여하는가?
• RQ3 하이브리드 프롬프팅 기법이 순수 텍스트 전용 또는 ID 전용 프롬프팅 대비 추천 정확도에서 어떻게 성능을 냅니다?
• RQ4 LLaRA는 세계 지식과 순차적 행동 패턴을 얼마나 효과적으로 활용하여 기존의 순차적 추천 모델을 초월하는가?
• RQ5 어댑터 모듈이 전통적 추천 모델과 LLM 간의 모달 갭을 어떻게 다리 역할을 하는가?

주요 결과

• LLaRA는 MovieLens 및 Steam 데이터셋에서 모든 기준 모델을 압도하며, 순차적 추천 분야에서 최신 기술 수준의 성능을 달성한다.
• 제거 실험 결과, 하이브리드 프롬프팅과 교육 과정 학습 전략이 모두 필수적임을 확인하였으며, 두 구성 요소가 모두 포함된 전체 LLaRA 프레임워크가 각각의 구성 요소가 빠진 변형보다 유의미하게 뛰어난 성능을 보였다.
• MovieLens에서 LLaRA는 Hit Rate@10 0.621과 NDCG@10 0.587을 기록하여 다음으로 우수한 기준 모델보다 3퍼센트 이상 높은 성능을 달성했다.
• Steam에서는 Hit Rate@10 0.592와 NDCG@10 0.551의 성능을 기록하여 다양한 도메인에 걸쳐 강력한 일반화 능력을 보였다.
• 사례 연구 결과, LLaRA는 장르 패턴(예: 어드벤처 및 전쟁)을 기반으로 사용자 선호도를 정확히 예측하는 반면, 세계 지식이나 행동 패턴에만 의존하는 모델들은 실패함을 확인했다.
• 어댑터 모듈은 순차적 행동 임베딩과 LLM 입력 공간 간의 효과적인 정렬을 가능하게 하여, 모델이 사용자 선호도의 동적 변화를 내재화할 수 있도록 한다.