[论文解读] RecInDial: A Unified Framework for Conversational Recommendation with Pretrained Language Models

Lingzhi Wang, Huang Hu+4 more|arXiv (Cornell University)|Oct 14, 2021

Topic Modeling参考文献 57被引用 9

一句话总结

本文提出 RecInDial，一种统一框架，通过在预训练语言模型（PLM）中引入词汇指针机制，将物品推荐整合到对话生成中。通过在知识图谱增强的嵌入空间中微调 PLM，并引入物品感知的词汇指针机制，RecInDial 在 ReDial 基准测试中实现了最先进性能，显著优于先前方法，在对话连贯性和推荐准确率方面均表现更优。

ABSTRACT

Conversational Recommender System (CRS), which aims to recommend high-quality items to users through interactive conversations, has gained great research interest recently. A CRS is usually composed of a recommendation module and a generation module. In the previous work, these two modules are loosely connected in the model training and are shallowly integrated during inference, where a simple switching or copy mechanism is adopted to incorporate recommended items into generated responses. Moreover, the current end-to-end neural models trained on small crowd-sourcing datasets (e.g., 10K dialogs in the ReDial dataset) tend to overfit and have poor chit-chat ability. In this work, we propose a novel unified framework that integrates recommendation into the dialog (RecInDial) generation by introducing a vocabulary pointer. To tackle the low-resource issue in CRS, we finetune the large-scale pretrained language models to generate fluent and diverse responses, and introduce a knowledge-aware bias learned from an entity-oriented knowledge graph to enhance the recommendation performance. Furthermore, we propose to evaluate the CRS models in an end-to-end manner, which can reflect the overall performance of the entire system rather than the performance of individual modules, compared to the separate evaluations of the two modules used in previous work. Experiments on the benchmark dataset ReDial show our RecInDial model significantly surpasses the state-of-the-art methods. More extensive analyses show the effectiveness of our model.

研究动机与目标

• 解决现有对话推荐系统（CRS）将对话生成与物品推荐视为独立、松散耦合模块的局限性。
• 克服在小型众包数据集（如 ReDial，约 10K 条对话）上训练的端到端 CRS 模型存在的过拟合与对话质量低下问题。
• 通过词汇指针机制，将推荐与生成过程统一为单一、一致的框架。
• 以端到端方式评估 CRS 模型，反映整体系统性能而非孤立模块的表现。
• 通过从面向实体的知识图谱中学习的知识感知表示，提升推荐质量。

提出的方法

• 在 ReDial 数据集上微调大规模预训练语言模型（如 DialoGPT），以生成流畅且多样的对话回复。
• 引入关系图卷积网络（RGCN）以从面向物品的知识图谱中编码节点表示，增强用户偏好建模能力。
• 扩展 PLM 的词汇表，加入专用的物品词汇，实现在生成过程中直接预测推荐物品。
• 引入词汇指针机制，在解码过程中动态选择从标准词汇表生成词语，或从物品词汇表中选择物品。
• 在微调过程中引入知识感知偏差，将 RGCN 学习到的物品表示融入生成过程，以提升推荐的相关性。
• 通过端到端评估方式检验整个系统性能，即检查最终生成的回复是否包含真实推荐物品，以反映实际应用场景下的表现。

实验结果

研究问题

• RQ1 通过词汇指针机制将推荐整合到对话生成中的统一框架，是否能超越现有的两阶段或松散耦合的 CRS 模型？
• RQ2 在关系知识图谱中学习到的知识感知表示，对微调大规模预训练语言模型后，能否同时提升对话质量与推荐准确率？
• RQ3 与复制或指针机制相比，词汇指针机制在多大程度上提升了将物品注入生成回复时的一致性与恰当性？
• RQ4 与分别评估生成与推荐模块相比，端到端评估策略为何更能反映真实世界 CRS 的性能？
• RQ5 数据不平衡与冷启动问题对推荐性能有何影响？所提模型能否缓解这些挑战？

主要发现

• RecInDial 在 ReDial 基准测试中显著优于最先进方法，展现出在对话连贯性与推荐准确率方面的卓越端到端性能。
• 该模型在 Recall@30 和 Recall@50 指标上均优于先前方法，尤其在低频电影上的表现显著提升，这些电影在冷启动场景下通常被低估。
• 词汇指针机制实现了更一致且上下文恰当的物品注入，减少了如‘我会推荐它’但未明确指出物品的失败案例。
• 知识图谱增强的微调提升了模型推断用户偏好的能力，尤其在老电影或不热门电影上表现更优，这在定性分析中已得到验证。
• 端到端评估表明，RecInDial 生成的回复更具信息量与连贯性，且包含正确推荐，而其他模型常产生通用或不完整的回答。
• 尽管存在数据不平衡问题，RecInDial 在不同电影频率范围内的性能仍保持相对稳定；随着对话上下文加深，召回率有所提升，但超过 5 轮后因个性化需求增加，性能略有下降。