[论文解读] Response Generation with Context-Aware Prompt Learning

Xiaodong Gu, Kang Min Yoo+1 more|arXiv (Cornell University)|Nov 4, 2021

Topic Modeling参考文献 26被引用 13

一句话总结

本文提出 DialogPrompt，一种上下文感知的提示学习框架，用于响应生成。该框架根据对话上下文动态生成提示嵌入，使大型预训练语言模型能够在不微调的情况下生成更高质量、更具信息量的响应。在自动评估和人工评估中，其表现均优于微调基线模型和通用提示学习方法。

ABSTRACT

Pre-trained language models (PLM) have marked a huge leap in neural dialogue modeling. While PLMs are pre-trained on large-scale text corpora, they are usually fine-tuned on scarce dialogue data with specific domain knowledge and dialogue styles. However, tailoring the language models while fully utilizing prior knowledge in large pre-trained models remains a challenge. In this paper, we present a novel approach for pre-trained dialogue modeling that casts the dialogue generation problem as a prompt-learning task. Instead of fine-tuning on limited dialogue data, our approach, DialogPrompt, learns continuous prompt embeddings optimized for dialogue contexts, which appropriately elicit knowledge from the large pre-trained model. To encourage the model to better utilize the prompt embeddings, the prompt encoders are designed to be dynamically generated based on the dialogue context. Experiments on popular conversation datasets show that our approach significantly outperforms the fine-tuning baseline and the generic prompt-learning methods. Furthermore, human evaluations strongly support the superiority of DialogPrompt in regard to response generation quality.

研究动机与目标

• 为解决在稀缺对话数据上微调时预训练语言模型知识复用有限的挑战。
• 克服通用提示学习在对话中应用的局限性，即静态提示无法捕捉上下文相关的响应依赖关系。
• 设计一种动态提示编码器，生成上下文感知的提示嵌入，以更好地激发预训练模型的知识。
• 通过冻结主模型参数仅优化提示嵌入，提升响应生成质量，减少在小规模对话数据集上的过拟合。

提出的方法

• DialogPrompt 引入一种动态提示编码器，在响应生成前通过关注对话上下文来生成上下文感知的提示嵌入。
• 该模型在输入对话上下文前添加学习到的提示标记，这些标记通过基于 Transformer 的编码器，基于上下文隐藏状态进行条件化。
• 在保持预训练语言模型参数冻结的同时，端到端优化提示嵌入，从而实现少样本或零样本适应。
• 动态提示编码器利用上下文表征生成个性化提示激活，增强上下文相关性与响应的信息量。
• 该方法通过优化的、上下文特定的提示引导预训练模型的内部知识，而非微调整个模型。
• 该方法应用于基于 GPT-2 的模型，并在 DailyDialog 和 MultiWOZ 数据集上通过自动指标和人工评估进行评估。

实验结果

研究问题

• RQ1 提示学习能否有效适配至对话生成任务，在不微调的情况下提升响应质量？
• RQ2 在多轮对话设置中，上下文感知提示学习与静态或通用提示学习相比表现如何？
• RQ3 动态提示编码器在多大程度上能增强预训练语言模型知识在响应生成中的复用？
• RQ4 在响应连贯性、信息量和流畅性方面，基于提示的方法是否优于微调？

主要发现

• 在 DailyDialog 和 MultiWOZ 数据集上，DialogPrompt 在 BLEU、ROUGE 和 FID 等自动评估指标上显著优于微调基线模型。
• 人工评估确认，与微调和通用提示学习方法相比，DialogPrompt 生成的响应更具信息量、更流畅且更符合上下文。
• 在案例研究中，DialogPrompt 生成了具体且与领域相关的细节，如 'Imperial Porter' 和 'standard beer'，展现出优于基线模型的知识利用能力。
• 与 p-tuning 和 prefix-tuning 相比，DialogPrompt 生成的响应更长、更连贯，后者常产生简短或不连贯的输出，如 'Pardon?' 或 'I’t think'。
• 在人工评估中，DialogPrompt 的信息量得分更高，其响应包含更多相关关键词，如 'time-consuming'、'business' 和 'car accident'，且使用方式在上下文中恰当。
• 动态提示编码器实现了更好的上下文适应，使生成的响应比 p-tuning 更流畅、语法更正确，后者常产生错误如 'I’t think'。