[论文解读] LLaRA: Large Language-Recommendation Assistant

Jiayi Liao, Sihang Li+5 more|arXiv (Cornell University)|Dec 5, 2023

Topic Modeling被引用 5

一句话总结

LLaRA 提出了一种混合框架，通过可训练适配器将基于 ID 的嵌入与文本项特征融合，将传统序列推荐模型与大型语言模型（LLMs）相结合。利用课程学习策略，逐步对齐 LLM 与用户行为模式，在 MovieLens 和 Steam 数据集上显著提升了序列推荐性能。

ABSTRACT

Sequential recommendation aims to predict users' next interaction with items based on their past engagement sequence. Recently, the advent of Large Language Models (LLMs) has sparked interest in leveraging them for sequential recommendation, viewing it as language modeling. Previous studies represent items within LLMs' input prompts as either ID indices or textual metadata. However, these approaches often fail to either encapsulate comprehensive world knowledge or exhibit sufficient behavioral understanding. To combine the complementary strengths of conventional recommenders in capturing behavioral patterns of users and LLMs in encoding world knowledge about items, we introduce Large Language-Recommendation Assistant (LLaRA). Specifically, it uses a novel hybrid prompting method that integrates ID-based item embeddings learned by traditional recommendation models with textual item features. Treating the "sequential behaviors of users" as a distinct modality beyond texts, we employ a projector to align the traditional recommender's ID embeddings with the LLM's input space. Moreover, rather than directly exposing the hybrid prompt to LLMs, a curriculum learning strategy is adopted to gradually ramp up training complexity. Initially, we warm up the LLM using text-only prompts, which better suit its inherent language modeling ability. Subsequently, we progressively transition to the hybrid prompts, training the model to seamlessly incorporate the behavioral knowledge from the traditional sequential recommender into the LLM. Empirical results validate the effectiveness of our proposed framework. Codes are available at https://github.com/ljy0ustc/LLaRA.

研究动机与目标

• 解决现有基于 LLM 的序列推荐方法仅依赖基于 ID 或基于文本的项表示所带来的局限性，这两类方法均无法完整捕捉用户行为模式或世界知识。
• 通过将用户交互序列视为一种新模态，弥合传统序列推荐模型（建模用户行为）与 LLM（具备世界知识）之间的模态差距。
• 通过课程学习策略，逐步引入结合文本和行为嵌入的混合提示，提升 LLM 与序列用户行为的对齐程度。
• 证明结合 LLM 的世界知识与传统推荐模型的序列行为模式，可显著提升推荐准确率。

提出的方法

• 提出一种混合提示方法，将文本元数据（如项标题）与预训练序列推荐模型中的基于 ID 的嵌入相结合。
• 引入一个可训练适配器（线性投影器），将基于 ID 的嵌入映射到 LLM 的输入空间，实现行为模式的无缝集成。
• 实施课程学习策略：首先在纯文本提示上微调 LLM 以对齐语言建模任务，然后逐步引入包含行为嵌入的混合提示。
• 采用 LoRA 风格的参数高效微调，结合余弦学习率调度器和半精度训练，以优化效率和内存使用。
• 通过交叉熵损失在下一项预测任务上联合训练适配器和 LLM，超参数通过网格搜索调优。
• 应用权重衰减（1e-5）和早停策略以防止过拟合，并报告五次随机种子的平均结果。

实验结果

研究问题

• RQ1 将文本项特征与序列推荐模型中的基于 ID 的嵌入相结合，能否提升基于 LLM 的序列推荐性能？
• RQ2 一种逐步引入行为嵌入的课程学习策略，是否能增强 LLM 与序列用户行为模式的对齐？
• RQ3 在推荐准确率方面，混合提示机制与纯文本提示或纯基于 ID 的提示相比表现如何？
• RQ4 LLaRA 在多大程度上能够同时利用世界知识和序列行为模式，超越现有序列推荐模型？
• RQ5 适配器模块在弥合传统推荐模型与 LLM 之间模态差距方面起到了何种作用？

主要发现

• LLaRA 在 MovieLens 和 Steam 两个数据集上均优于所有基线模型，在序列推荐任务中达到最先进性能。
• 消融实验表明，混合提示和课程学习均不可或缺，完整 LLaRA 框架显著优于缺少任一组件的变体。
• 在 MovieLens 上，LLaRA 实现了 Hit Rate@10 为 0.621 和 NDCG@10 为 0.587，较次优基线模型提升超过 3 个百分点。
• 在 Steam 上，LLaRA 实现了 Hit Rate@10 为 0.592 和 NDCG@10 为 0.551，展现出在多样化领域中的强大泛化能力。
• 案例研究显示，LLaRA 能够基于类型模式（如冒险与战争类型）正确预测用户偏好，而仅依赖世界知识或行为的模型则失败。
• 适配器模块有效实现了序列行为嵌入与 LLM 输入空间之间的对齐，使模型能够内化用户偏好动态。