[论文解读] Hello, It's GPT-2 -- How Can I Help You? Towards the Use of Pretrained Language Models for Task-Oriented Dialogue Systems

Paweł Budzianowski, Ivan Vulić|arXiv (Cornell University)|Jul 12, 2019

Topic Modeling被引用 9

一句话总结

本文提出了一种任务导向对话系统，利用微调后的 GPT-2 模型从原始文本输入中完全生成响应，绕过显式的对话管理与生成模块。尽管自动指标略低于强基准神经模型，但人工评估显示响应质量无显著差异，证明了使用大规模预训练语言模型在极少架构改动下实现零样本或少样本跨领域适应的可行性。

ABSTRACT

Data scarcity is a long-standing and crucial challenge that hinders quick development of task-oriented dialogue systems across multiple domains: task-oriented dialogue models are expected to learn grammar, syntax, dialogue reasoning, decision making, and language generation from absurdly small amounts of task-specific data. In this paper, we demonstrate that recent progress in language modeling pre-training and transfer learning shows promise to overcome this problem. We propose a task-oriented dialogue model that operates solely on text input: it effectively bypasses explicit policy and language generation modules. Building on top of the TransferTransfo framework (Wolf et al., 2019) and generative model pre-training (Radford et al., 2019), we validate the approach on complex multi-domain task-oriented dialogues from the MultiWOZ dataset. Our automatic and human evaluations show that the proposed model is on par with a strong task-specific neural baseline. In the long run, our approach holds promise to mitigate the data scarcity problem, and to support the construction of more engaging and more eloquent task-oriented conversational agents.

研究动机与目标

• 通过在通用领域文本上进行大规模预训练，解决任务导向对话系统中的数据稀缺问题。
• 探究像 GPT-2 这类预训练生成语言模型是否能在无需显式策略或生成模块的情况下有效支持任务导向对话。
• 使用自动评估与人工评估指标，评估基于 GPT 的模型在复杂、多领域对话中的性能。
• 评估所提出框架在不同领域间迁移与适应的能力，且仅需极少微调。

提出的方法

• 该模型采用序列到序列框架，将整个对话上下文（包括信念状态、数据库状态和历史记录）编码为原始文本，并直接输入 GPT-2 解码器。
• 该模型在 MultiWOZ 数据集上使用标准语言建模目标进行微调：最大化给定上下文后下一个词的可能性。
• 该框架依赖于 TransferTransfo 框架，并利用 GPT-2 架构实现自回归文本生成。
• 评估了两种解码策略：贪婪解码与核采样（top-p），以控制响应的多样性与质量。
• 该模型端到端地在仅文本输入上进行训练，无需单独的对话状态追踪或响应生成模块。
• 通过简单地重新格式化输入上下文并在领域特定数据上微调，该方法可实现对新领域的零样本或少样本适应。

实验结果

研究问题

• RQ1 像 GPT-2 这类大规模预训练语言模型是否能通过微调有效实现任务导向对话生成，而无需显式的对话管理或生成模块？
• RQ2 基于 GPT-2 的模型在任务成功率、流畅性及人工偏好方面，与强任务专用神经基线相比表现如何？
• RQ3 在任务导向对话背景下，使用核采样是否相比贪婪解码能提升响应质量？
• RQ4 所提出的仅使用文本输入的框架在多领域之间可泛化到何种程度，且仅需极少架构改动？

主要发现

• 使用贪婪解码时，基于 GPT-2 的模型取得了 61.36% 的成功率和 70.96% 的信息提供率，与强神经基线相比具有竞争力。
• 使用核采样后，GPT2-M 模型的成功率提升至 61.20%，信息提供率提升至 73.96%，表明解码策略的重要性。
• 人工评估显示，基于 GPT 的模型与强神经基线在偏好上无显著差异，GPT 模型在 59% 的比较中更受青睐。
• GPT2-M 模型在 45% 的比较中优于基线，表明其响应质量相当或略优，尽管自动指标较低。
• 使用核采样时，模型取得 19.05 的 BLEU 分数，表明相比贪婪解码，其流畅性与多样性有所提升。
• 定性分析显示，基线与基于 GPT 的模型各有约 50% 的对话成功，成功对话中的模式无明显差异。