[论文解读] A Unified Pre-training Framework for Conversational AI

Siqi Bao, B. J. Chen+8 more|arXiv (Cornell University)|May 6, 2021

Topic Modeling参考文献 30被引用 5

一句话总结

本文提出 PLATO-2，一种用于对话式人工智能的统一预训练框架，采用两阶段课程学习方法：首先训练一个粗粒度的一对一响应生成器用于任务导向型对话，然后通过离散潜在变量和一致性评估器对模型进行精炼，以生成多样化、一致的开放域和知识增强型响应。PLATO-2 在 DSTC9 的全部三项任务中均取得最先进结果，斩获开放域对话、知识增强型对话以及端到端任务导向型对话的第1名。

ABSTRACT

In this work, we explore the application of PLATO-2 on various dialogue systems, including open-domain conversation, knowledge grounded dialogue, and task-oriented conversation. PLATO-2 is initially designed as an open-domain chatbot, trained via two-stage curriculum learning. In the first stage, a coarse-grained response generation model is learned to fit the simplified one-to-one mapping relationship. This model is applied to the task-oriented conversation, given that the semantic mappings tend to be deterministic in task completion. In the second stage, another fine-grained generation model and an evaluation model are further learned for diverse response generation and coherence estimation, respectively. With superior capability on capturing one-to-many mapping, such models are suitable for the open-domain conversation and knowledge grounded dialogue. For the comprehensive evaluation of PLATO-2, we have participated in multiple tasks of DSTC9, including interactive evaluation of open-domain conversation (Track3-task2), static evaluation of knowledge grounded dialogue (Track3-task1), and end-to-end task-oriented conversation (Track2-task1). PLATO-2 has obtained the 1st place in all three tasks, verifying its effectiveness as a unified framework for various dialogue systems.

研究动机与目标

• 开发一种统一的预训练框架，能够处理多样化的对话式人工智能任务，包括开放域对话、知识增强型对话和任务导向型对话。
• 通过引入单一可适配的架构，解决现有模型需要针对特定任务进行定制化调整的局限性。
• 通过建模一对多映射，提升开放域和知识增强型对话中的响应多样性与一致性。
• 将一对一映射模型适配于任务导向型对话，其中更合适的响应为确定性输出。
• 通过在 DSTC9 上的全面基准测试，验证该框架的泛化能力与有效性。

提出的方法

• 该框架采用两阶段课程学习流程：首先使用对话上下文-响应对上的负对数似然（NLL）损失，训练一个粗粒度的一对一响应生成器。
• 在第二阶段，引入离散潜在变量以建模一对多映射，从而在开放域和知识增强型对话中实现多样化响应生成。
• 联合训练细粒度生成模型与独立的一致性评估模型，以提升响应质量与一致性。
• 采用共享编码器-解码器参数的统一 Transformer 主干网络，实现参数效率与跨任务迁移。
• 对于任务导向型对话，一对一映射模型从上下文端到端生成对话状态、系统动作和响应。
• 通过在输入中扩展知识片段，实现知识增强，使模型能够基于外部事实生成响应。

实验结果

研究问题

• RQ1 单一预训练框架是否能在无需针对特定任务重新训练的情况下，有效处理开放域对话、知识增强型对话和任务导向型对话？
• RQ2 通过一对一与一对多映射阶段的课程学习，如何提升响应质量与多样性？
• RQ3 一对一映射模型在多大程度上能够支持高精度的端到端任务导向型对话？
• RQ4 一对多建模组件在知识增强型对话中是否具备泛化能力，同时保持一致性与相关性？
• RQ5 在全面的多任务评估基准中，PLATO-2 与现有模型相比表现如何？

主要发现

• PLATO-2 在 DSTC9 的全部三项任务中均获得第1名：开放域对话的交互式评估（Track3-task2）。
• 在知识增强型对话的静态评估中（Track3-task1），PLATO-2 的响应更具一致性且与上下文关联更紧密，优于基线模型。
• 在端到端任务导向型对话中（Track2-task1），PLATO-2 通过联合生成对话状态、系统动作和响应，实现了最先进性能。
• 该模型在开放域对话中表现出更优的一致性与多样性，避免了通用或重复性响应。
• 离散潜在变量的引入显著提升了响应多样性，同时保持了流畅性与相关性。
• 该框架成功将三种不同的对话范式统一于单一架构之下，证明了其强大的泛化能力。