[论文解读] SPACE-3: Unified Dialog Model Pre-training for Task-Oriented Dialog Understanding and Generation

Wanwei He, Yinpei Dai+5 more|arXiv (Cornell University)|Sep 14, 2022

Topic Modeling被引用 6

一句话总结

SPACE-3 是一个统一的、半监督预训练对话模型，在单一 Transformer 架构中联合优化对话理解、策略规划和响应生成。它在八个下游任务导向对话基准上实现了最先进性能，包括意图预测、对话状态追踪和端到端建模，在低资源条件下展现出强大的 few-shot 泛化能力。

ABSTRACT

Recently, pre-training methods have shown remarkable success in task-oriented dialog (TOD) systems. However, most existing pre-trained models for TOD focus on either dialog understanding or dialog generation, but not both. In this paper, we propose SPACE-3, a novel unified semi-supervised pre-trained conversation model learning from large-scale dialog corpora with limited annotations, which can be effectively fine-tuned on a wide range of downstream dialog tasks. Specifically, SPACE-3 consists of four successive components in a single transformer to maintain a task-flow in TOD systems: (i) a dialog encoding module to encode dialog history, (ii) a dialog understanding module to extract semantic vectors from either user queries or system responses, (iii) a dialog policy module to generate a policy vector that contains high-level semantics of the response, and (iv) a dialog generation module to produce appropriate responses. We design a dedicated pre-training objective for each component. Concretely, we pre-train the dialog encoding module with span mask language modeling to learn contextualized dialog information. To capture the structured dialog semantics, we pre-train the dialog understanding module via a novel tree-induced semi-supervised contrastive learning objective with the help of extra dialog annotations. In addition, we pre-train the dialog policy module by minimizing the L2 distance between its output policy vector and the semantic vector of the response for policy optimization. Finally, the dialog generation model is pre-trained by language modeling. Results show that SPACE-3 achieves state-of-the-art performance on eight downstream dialog benchmarks, including intent prediction, dialog state tracking, and end-to-end dialog modeling. We also show that SPACE-3 has a stronger few-shot ability than existing models under the low-resource setting.

研究动机与目标

• 解决现有预训练模型仅关注对话理解或生成，而无法兼顾两者的局限性。
• 将任务导向对话系统的三个核心组件——理解、策略规划和生成——统一到一个端到端框架中。
• 利用标注和未标注的对话数据进行有效预训练，以提升低资源设置下的性能。
• 为每个模块设计专用的预训练目标，以增强结构化语义建模和策略优化。
• 在多样化的下游任务导向对话任务中实现最先进结果，包括 few-shot 学习场景。

提出的方法

• 在一个单一的 Transformer 中集成四个连续模块：对话编码、对话理解、对话策略和对话生成模块。
• 使用跨度掩码语言建模预训练对话编码模块，以学习上下文相关的对话表示。
• 通过额外的对话注释，采用树结构诱导的半监督对比学习目标增强对话理解，以建模结构化语义。
• 通过最小化策略模块输出的策略向量与真实响应语义向量之间的 L2 距离来优化策略模块。
• 通过标准语言建模预训练生成模块，以生成流畅且上下文相关的响应。
• 使用多任务学习联合微调统一模型在下游任务上的表现，利用理解、规划和生成之间的共享表示。

实验结果

研究问题

• RQ1 一个统一的预训练模型是否能有效在单一架构中整合对话理解、策略规划和响应生成？
• RQ2 在标注和未标注对话数据上进行联合预训练，如何提升下游任务导向对话任务的性能？
• RQ3 各组件（尤其是策略模块）对端到端对话成功率和响应质量的贡献如何？
• RQ4 与先前模型相比，该模型在低资源或 few-shot 设置下的泛化能力如何？
• RQ5 各个预训练目标（如对比学习、跨度掩码）对意图预测和对话状态追踪性能的影响如何？

主要发现

• SPACE-3 在八个下游任务导向对话基准上实现最先进性能，包括意图预测（MultiWOZ2.2 上 F1 达 95.30）、对话状态追踪（BANKING77 上 F1 达 97.89）和端到端对话建模（MultiWOZ2.0 上成功率达 88.00%）。
• 该模型展现出强大的 few-shot 泛化能力，在低资源训练条件下优于现有模型。
• 消融研究显示，移除策略语义建模损失 ($L_{psm}$) 在端到端任务中导致性能下降最大——成功率下降 4.9%，凸显其关键作用。
• 树结构诱导的半监督对比学习目标 ($L_{scl}$) 显著提升对话状态追踪性能，移除后性能下降减少 1.54 F1 分。
• 提示 token ($p^u$) 对理解至关重要：移除后意图预测 F1 在各基准上平均下降 0.65 分。
• 跨度预测损失 ($L_{slm}$) 对意图预测最为关键，而 $L_{scl}$ 在复杂多轮理解任务中贡献更大。