[论文解读] Collaborative Large Language Model for Recommender Systems

Yaochen Zhu, Liang Wu+3 more|arXiv (Cornell University)|Nov 2, 2023

Topic Modeling被引用 4

一句话总结

该论文提出CLLM4Rec，这是首个通过将用户/物品ID标记扩展至大语言模型（LLM）词表并采用软+硬提示策略，将大语言模型（LLMs）与传统ID范式紧密集成的生成式推荐系统，从而联合建模协同与内容语义。该方法通过相互正则化和面向推荐的微调实现最先进性能，实现无需微调LLM主干网络的高效、无幻觉多物品生成。

ABSTRACT

Recently, there has been growing interest in developing the next-generation recommender systems (RSs) based on pretrained large language models (LLMs). However, the semantic gap between natural language and recommendation tasks is still not well addressed, leading to multiple issues such as spuriously correlated user/item descriptors, ineffective language modeling on user/item data, inefficient recommendations via auto-regression, etc. In this paper, we propose CLLM4Rec, the first generative RS that tightly integrates the LLM paradigm and ID paradigm of RSs, aiming to address the above challenges simultaneously. We first extend the vocabulary of pretrained LLMs with user/item ID tokens to faithfully model user/item collaborative and content semantics. Accordingly, a novel soft+hard prompting strategy is proposed to effectively learn user/item collaborative/content token embeddings via language modeling on RS-specific corpora, where each document is split into a prompt consisting of heterogeneous soft (user/item) tokens and hard (vocab) tokens and a main text consisting of homogeneous item tokens or vocab tokens to facilitate stable and effective language modeling. In addition, a novel mutual regularization strategy is introduced to encourage CLLM4Rec to capture recommendation-related information from noisy user/item content. Finally, we propose a novel recommendation-oriented finetuning strategy for CLLM4Rec, where an item prediction head with multinomial likelihood is added to the pretrained CLLM4Rec backbone to predict hold-out items based on soft+hard prompts established from masked user-item interaction history, where recommendations of multiple items can be generated efficiently without hallucination. Codes are released at https://github.com/yaochenzhu/llm4rec.

研究动机与目标

• 解决基于大语言模型的推荐系统中自然语言与推荐任务之间的语义鸿沟问题。
• 克服由ID标记化引发的虚假相关性以及对用户/物品数据语言建模性能差的问题。
• 在统一的LLM框架下，实现无需幻觉的高效多物品推荐生成。
• 在保留预训练LLM知识的同时，通过针对性微调适应推荐特定语义。
• 通过在统一LLM架构中实现协同与内容信号的相互正则化，证明其有效性。

提出的方法

• 将预训练LLM的词表扩展，加入专用的用户和物品ID标记，以在标记空间中直接表示用户和物品。
• 提出一种软+硬提示策略，其中提示由异构的软（用户/物品）标记和硬（词表）标记组成，从而在推荐系统特定语料上实现稳定且高效的语言建模。
• 采用相互正则化策略，促使协同LLM与内容LLM共享知识，提升对噪声用户/物品内容的鲁棒性。
• 提出一种面向推荐的微调策略，采用基于多项式似然的物品预测头，从掩码的交互历史中高效生成多个物品。
• 采用两阶段训练流程：第一阶段，通过软+硬提示进行相互正则化，联合建模协同与内容信息；第二阶段，通过专用预测头进行微调，提升推理效率。
• 将学习到的用户和物品标记嵌入投影至128维，构建轻量级嵌入基线（CLLM4Rec-Emb），用于工业部署。

实验结果

研究问题

• RQ1 将用户/物品ID标记集成到LLM中，能否有效弥合自然语言与推荐任务之间的语义鸿沟？
• RQ2 软+硬提示策略如何提升在混合用户-物品交互与内容数据上的语言建模稳定性与有效性？
• RQ3 协同LLM与内容LLM之间的相互正则化是否能增强对噪声用户/物品特征的鲁棒性？
• RQ4 面向推荐的微调策略能否在保留预训练LLM知识的前提下，实现无幻觉的高效多物品生成？
• RQ5 CLLM4Rec在离线评估与真实工业部署场景中，与强基线相比表现如何？

主要发现

• 在LinkedIn数据集上，CLLM4Rec显著优于强基线，包括LinkedIn实际使用的双塔模型，证明其在真实场景中的有效性。
• 在AM-Beauty、AM-Toys、AM-Sports和Yelp数据集上，CLLM4Rec均达到最先进性能，所有指标均实现一致提升。
• 消融实验表明，对LLM主干进行完整微调会降低性能，表明保留预训练知识至关重要。
• 最优相互正则化强度约为λc = 1，此时所有数据集性能均达到峰值，证实了平衡正则化的必要性。
• CLLM4Rec-Emb（仅使用学习到的用户和物品标记嵌入的轻量级版本）优于原始双塔模型和M6-Retrieval，展现出在低延迟工业部署中的强大潜力。
• 面向推荐的微调策略实现了无幻觉的高效多物品生成，显著提升了推理效率，优于自回归基线。