[论文解读] Prototype-to-Style: Dialogue Generation with Style-Aware Editing on Retrieval Memory

Yixuan Su, Yan Wang+5 more|arXiv (Cornell University)|Apr 5, 2020

Topic Modeling参考文献 39被引用 6

一句话总结

本文提出了一种原型到风格（PS）框架，用于风格化对话生成。该框架通过信息检索系统检索响应原型，并利用微调的GPT-2生成器对原型进行编辑，以匹配目标语言风格。该方法采用风格感知学习目标和去噪训练策略，在三组基准数据集上，无论是在域内还是跨域设置下，均优于强基线模型。

ABSTRACT

The ability of a dialog system to express prespecified language style during conversations has a direct, positive impact on its usability and on user satisfaction. We introduce a new prototype-to-style (PS) framework to tackle the challenge of stylistic dialogue generation. The framework uses an Information Retrieval (IR) system and extracts a response prototype from the retrieved response. A stylistic response generator then takes the prototype and the desired language style as model input to obtain a high-quality and stylistic response. To effectively train the proposed model, we propose a new style-aware learning objective as well as a de-noising learning strategy. Results on three benchmark datasets from two languages demonstrate that the proposed approach significantly outperforms existing baselines in both in-domain and cross-domain evaluations

研究动机与目标

• 为解决生成既与上下文相关又表达指定语言风格（如情感、个性或性别）的对话响应的挑战。
• 克服现有方法过度强调风格而牺牲响应信息量与多样性的局限性。
• 利用检索到的响应原型作为事实与上下文内容的来源，同时通过微调的生成模型实现风格编辑。
• 提升模型在训练与测试数据分布显著不同的跨域设置下的鲁棒性。
• 开发一种训练策略，通过风格感知学习目标与去噪机制，平衡风格保真度与响应质量。

提出的方法

• 该框架使用信息检索系统检索响应原型，随后对原型进行掩码处理，移除风格化词汇，生成中性内容原型。
• 基于微调GPT-2的风格感知响应生成器，将中性原型与目标风格作为输入，生成风格恰当的响应。
• 模型采用一种新颖的风格感知最大似然估计（MLE）目标进行训练，将风格信息编码至模型参数中。
• 应用去噪学习策略，防止模型盲目复制来自检索原型的无关或不适当内容。
• 生成器基于GPT-2进行改进，通过架构调整以更好地适应对话生成任务。
• 通过在一种领域（如性别特定）上训练的模型，在另一领域（如情感特定）上进行测试，开展跨域评估，以评估模型鲁棒性。

实验结果

研究问题

• RQ1 检索增强型框架能否在对话生成中有效平衡响应质量与风格表达？
• RQ2 在域内与跨域设置下，所提出的PS框架相较于强基线模型表现如何？
• RQ3 去噪训练策略在多大程度上提升了模型避免从检索原型中复制无关内容的能力？
• RQ4 风格感知学习目标是否能在不牺牲响应信息量的前提下，实现更一致且准确的风格表达？
• RQ5 当测试数据分布与训练数据分布显著不同时，模型的鲁棒性如何？

主要发现

• 所提出的PS框架在三组基准数据集的自动评估与人工评估中，无论在域内还是跨域设置下，均显著优于强基线模型。
• 该模型在质量与风格表达方面，获得最高比例的评分≥3与≥4的响应，表明其在信息量与风格保真度之间实现了良好平衡。
• 在跨域评估中，PS模型在领域分布发生变化时仍保持高响应质量，而基线模型如GPT2-FT与PS w/o R则出现性能急剧下降。
• 去噪学习策略有效降低了模型复制检索原型中无关内容的倾向，提升了响应的相关性。
• 案例研究显示，模型能成功提取并保留关键信息（如“做噩梦”、“更高薪资”），同时将其适配至目标风格。
• 该框架展现出良好的鲁棒性与泛化能力，尤其在利用检索原型弥合领域差异方面表现突出。