[논문 리뷰] CoLLM: Integrating Collaborative Embeddings into Large Language Models for Recommendation

Yang Zhang, Fuli Feng외 4명|arXiv (Cornell University)|2023. 10. 30.

Recommender Systems and Techniques인용 수 4

한 줄 요약

CoLLM는 사용자-아이템 상호작용에서 유도된 협업 정보를 대규모 언어 모델(Large Language Models, LLMs)에 통합하는 새로운 프레임워크를 제안한다. 외부 협업 임베딩을 LLM의 입력 토큰 공간에 매핑하여, LLM의 아키텍처를 수정하지 않고도 온난 및 냉각 시작 시나리오에서 성능을 향상시킨다. 이는 LLM의 협업 모델링을 학습 가능한 매핑 모듈을 통해 분리함으로써 달성되며, 기준 데이터셋에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Leveraging Large Language Models as Recommenders (LLMRec) has gained significant attention and introduced fresh perspectives in user preference modeling. Existing LLMRec approaches prioritize text semantics, usually neglecting the valuable collaborative information from user-item interactions in recommendations. While these text-emphasizing approaches excel in cold-start scenarios, they may yield sub-optimal performance in warm-start situations. In pursuit of superior recommendations for both cold and warm start scenarios, we introduce CoLLM, an innovative LLMRec methodology that seamlessly incorporates collaborative information into LLMs for recommendation. CoLLM captures collaborative information through an external traditional model and maps it to the input token embedding space of LLM, forming collaborative embeddings for LLM usage. Through this external integration of collaborative information, CoLLM ensures effective modeling of collaborative information without modifying the LLM itself, providing the flexibility to employ various collaborative information modeling techniques. Extensive experiments validate that CoLLM adeptly integrates collaborative information into LLMs, resulting in enhanced recommendation performance. We release the code and data at https://github.com/zyang1580/CoLLM.

연구 동기 및 목표

• 기존의 LLM 기반 추천 방법이 사용자-아이템 상호작용에서 유도된 협업 정보를 충분히 활용하지 못하는 한계를 해결하기 위해.
• 협업 패턴이 강한 온난 시작 시나리오에서 추천 성능을 향상시키되, 냉각 시작 능력을 손상시키지 않기 위해.
• LLM 아키텍처를 수정하지 않고도 다양한 협업 모델링 기법을 유연하게 LLM에 통합하기 위해.
• 직접 사용자/아이템 토큰을 삽입하는 것과 같은 중복 토크나이제이션을 피함으로써 높은 정보 압축 효율성을 유지하기 위해.
• 외부 모델링과 임베딩 매핑을 통해 저랭크 협업 신호를 LLM에 효과적이고 확장 가능한 방식으로 통합하는 방법 개발을 위해.

제안 방법

• CoLLM는 사용자-아이템 상호작용 데이터에서 협업 임베딩을 추출하기 위해 사전 훈련된 협업 모델(예: 행렬 분해 또는 LightGCN)을 사용한다.
• 이 협업 임베딩은 학습 가능한 매핑 레이어(CIE 모듈)를 통해 LLM의 입력 토큰 임베딩 공간으로 투영되어, LLM이 협업 신호에 주목할 수 있도록 한다.
• 협업 모델링을 외부화함으로써 LLM의 원래 아키텍처를 유지하며, 사용자/아이템 ID를 직접 토크나이즈하지 않는다.
• 이중 단계 훈련 전략을 적용한다: 첫 번째로, 텍스트 전용 데이터에서 LoRA를 훈련하여 추천 작업을 학습한다; 두 번째로, 협업 모델을 고정한 채로 CIE 매핑 레이어를 훈련한다.
• 이 프레임워크는 다양한 협업 모델링 기법을 지원하며, 낮은 랭크 표현을 유지하여 중복을 줄이고 압축 효율성을 향상시킨다.
• CIE 모듈은 협업 신호가 LLM의 어텐션 메커니즘 내에서 텍스트 입력과 동적으로 정렬되도록 하는 엔드 투 엔드 훈련을 가능하게 한다.

실험 결과

연구 질문

• RQ1 LLM 아키텍처를 수정하지 않고도 사용자-아이템 상호작용에서 유도된 협업 정보를 효과적으로 LLM에 통합할 수 있는가?
• RQ2 협업 모델링을 외부화하면 온난 시작 시나리오에서 추천 성능가 향상되며, 同시에 냉각 시작 능력은 유지되는가?
• RQ3 제안된 매핑 메커니즘은 LLM 입력 공간에 직접 사용자/아이템 토큰을 삽입하는 것과 비교해 어떻게 성능을 냅니다?
• RQ4 다양한 훈련 전략이 CoLLM의 성능에 온난 및 냉각 사용자 시나리오에서 미치는 영향은 무엇인가?
• RQ5 CoLLM는 최소한의 아키텍처 변경으로 다양한 LLM과 추천 데이터셋에서 높은 성능을 유지를 할 수 있는가?

주요 결과

• CoLLM는 ML-1M 및 Amazon-Book 데이터셋에서 기존의 LLMRec 방법보다 온난 및 냉각 사용자 시나리오에서 모두 SOTA 성능을 달성한다.
• 절단 실험 결과, CIE 모듈을 제거한 경우(w/o CIE) 성능 저하가 심각하게 발생함을 확인하여, CIE 모듈이 협업 신호 통합에 핵심적인 역할을 한다는 것을 입증한다.
• 직접 사용자 및 아이템 토큰을 삽입한 경우(w/ UI-token)는 기준 모델 및 CoLLM보다 성능이 열 劣화되며, 이는 토크나이제이션 중복 증가와 압축 효율성 감소 때문이었다.
• 이중 단계 훈련 전략(일단 텍스트 전용으로, 그 다음 CIE 미세조정)은 단일 단계 훈련보다 성능이 뛰어나며, 특히 냉각 시작 시나리오에서 두드러진다. 이는 초기 작업 특화 학습의 중요성을 강조한다.
• CIE 모듈의 협업 모델을 훈련시키는 것(T1, T2)은 성능을 추가로 향상시키지만, 훈련 시간과 계산 오버헤드가 증가하는 비용을 수반한다.
• ML-1M에서 CoLLM는 AUC 0.7295와 UAUC 0.6875를 기록했으며, T2는 최고의 AUC 0.7418를 달성하여 CIE 전체 미세조정의 효과를 입증한다.