[论文解读] CoLLM: Integrating Collaborative Embeddings into Large Language Models for Recommendation

Yang Zhang, Fuli Feng+4 more|arXiv (Cornell University)|Oct 30, 2023

Recommender Systems and Techniques被引用 4

一句话总结

CoLLM 提出了一种新颖的框架，通过将外部协同嵌入映射到大型语言模型（LLM）的输入 token 空间，将用户-物品交互中的协同信息整合到 LLM 中用于推荐。通过使用可学习的映射模块将协同建模与 LLM 解耦，CoLLM 在不修改 LLM 的前提下，在冷启动和热启动场景下均提升了性能，在基准数据集上实现了最先进（SOTA）的结果。

ABSTRACT

Leveraging Large Language Models as Recommenders (LLMRec) has gained significant attention and introduced fresh perspectives in user preference modeling. Existing LLMRec approaches prioritize text semantics, usually neglecting the valuable collaborative information from user-item interactions in recommendations. While these text-emphasizing approaches excel in cold-start scenarios, they may yield sub-optimal performance in warm-start situations. In pursuit of superior recommendations for both cold and warm start scenarios, we introduce CoLLM, an innovative LLMRec methodology that seamlessly incorporates collaborative information into LLMs for recommendation. CoLLM captures collaborative information through an external traditional model and maps it to the input token embedding space of LLM, forming collaborative embeddings for LLM usage. Through this external integration of collaborative information, CoLLM ensures effective modeling of collaborative information without modifying the LLM itself, providing the flexibility to employ various collaborative information modeling techniques. Extensive experiments validate that CoLLM adeptly integrates collaborative information into LLMs, resulting in enhanced recommendation performance. We release the code and data at https://github.com/zyang1580/CoLLM.

研究动机与目标

• 解决现有基于 LLM 的推荐方法在利用用户-物品交互中的协同信息方面不足的问题。
• 在协同模式较强的热启动场景中提升推荐性能，同时不损害冷启动能力。
• 实现各种协同建模技术与 LLM 的灵活集成，而无需修改 LLM 架构。
• 通过避免直接注入用户/物品 token 所导致的分词冗余，保持高信息压缩效率。
• 开发一种可扩展且高效的方法，通过外部建模与嵌入映射，将低秩协同信号整合到 LLM 中。

提出的方法

• CoLLM 使用预训练的协同模型（如矩阵分解或 LightGCN）从用户-物品交互数据中提取协同嵌入。
• 这些协同嵌入通过一个可学习的映射层（CIE 模块）投影到 LLM 的输入 token 嵌入空间，使 LLM 能够关注协同信号。
• 通过将协同建模外部化，保留了 LLM 的原始架构，避免了对用户/物品 ID 的直接分词。
• 采用两阶段微调策略：首先在纯文本数据上微调 LoRA 以学习推荐任务；其次在固定协同模型的前提下微调 CIE 映射层。
• 该框架支持多种协同建模技术，并通过保持低秩表示来减少冗余，提升压缩效率。
• CIE 模块支持端到端训练，使协同信号在 LLM 的注意力机制中与文本输入动态对齐。

实验结果

研究问题

• RQ1 能否在不修改 LLM 架构的前提下，有效将用户-物品交互中的协同信息整合到 LLM 中？
• RQ2 将协同建模外部化是否能在保持冷启动能力的同时，提升热启动场景下的推荐性能？
• RQ3 所提出的映射机制与直接将用户/物品 token 注入 LLM 输入空间相比，表现如何？
• RQ4 不同的微调策略对 CoLLM 在热用户与冷用户场景下的性能有何影响？
• RQ5 CoLLM 是否能在对 LLM 架构改动极少的情况下，保持在多种 LLM 和推荐数据集上的高性能？

主要发现

• CoLLM 在 ML-1M 和 Amazon-Book 数据集上的热用户与冷用户场景中，均优于现有 LLMRec 方法，实现了 SOTA 结果。
• 消融实验表明，移除 CIE 模块（w/o CIE）会导致性能显著下降，证实了其在协同信号整合中的关键作用。
• 与基线模型相比，直接注入用户和物品 token（w/ UI-token）会降低性能，原因在于分词冗余增加和压缩效率下降。
• 两步微调策略（先纯文本微调，再 CIE 微调）优于单步微调，尤其在冷启动场景中表现更优，凸显了初始任务特定学习的重要性。
• 在 CIE 模块中微调协同模型（T1, T2）可进一步提升性能，但代价是训练时间与计算开销增加。
• 在 ML-1M 数据集上，CoLLM 的 AUC 达到 0.7295，UAUC 达到 0.6875，其中 T2 的 AUC 最高（0.7418），证明了完整 CIE 微调的有效性。