[论文解读] SOLOIST: Few-shot Task-Oriented Dialog with A Single Pre-trained Auto-regressive Model

Baolin Peng, Chunyuan Li+4 more|arXiv (Cornell University)|May 11, 2020

Topic Modeling参考文献 42被引用 88

一句话总结

SOLOIST 提出了一种单一的预训练自回归 Transformer 模型，统一了任务导向对话系统中的对话状态追踪、策略学习和响应生成。通过利用迁移学习和机器教学，该模型仅需少量特定任务的示例，就在 CamRest 和 MultiWOZ 数据集上实现了最先进性能，显著降低了标注成本。

ABSTRACT

This paper presents a new method SOLOIST, which uses transfer learning to efficiently build task-oriented dialog systems at scale. We parameterize a dialog system using a Transformer-based auto-regressive language model, which subsumes different dialog modules (e.g., state tracker, dialog policy, response generator) into a single neural model. We pre-train, on large heterogeneous dialog corpora, a large-scale Transformer model which can generate dialog responses grounded in user goals and real-world knowledge for task completion. The pre-trained model can be efficiently adapted to accomplish a new dialog task with a handful of task-specific dialogs via machine teaching. Our experiments demonstrate that (i) SOLOIST creates new state-of-the-art results on two well-known benchmarks, CamRest and MultiWOZ, (ii) in the few-shot learning setting, the dialog systems developed by SOLOIST significantly outperform those developed by existing methods, and (iii) the use of machine teaching substantially reduces the labeling cost. We will release our code and pre-trained models for reproducible research.

研究动机与目标

• 开发一种可扩展的统一框架，用于任务导向对话系统，以减少对特定任务模块设计的依赖。
• 通过在预训练模型上应用机器教学，最小化少样本对话学习中的标注成本。
• 利用大规模异构对话语料的迁移学习，提升对话系统在零样本和少样本场景下的泛化能力。
• 将状态追踪、策略学习和响应生成统一为一个端到端的自回归模型。
• 在 CamRest 和 MultiWOZ 等基准数据集上，仅使用极少微调数据，实现最先进性能。

提出的方法

• 使用单一基于 Transformer 的自回归语言模型参数化整个对话系统，替代原本独立的状态追踪、策略和响应生成模块。
• 在大规模异构对话语料上预训练模型，以学习具备语境依据的响应和用户目标理解能力。
• 通过机器教学方法将预训练模型适配到新任务，仅使用少量特定任务的对话示例来引导微调。
• 使用单一的序列到序列自回归生成头，基于用户目标和现实世界知识生成响应。
• 将用户目标和外部知识显式地整合到输入提示中，以确保生成的响应具备依据且符合任务要求。
• 利用迁移学习，实现在少量标注数据下快速适应新领域。

实验结果

研究问题

• RQ1 单一预训练自回归模型能否有效统一任务导向对话中的状态追踪、策略学习和响应生成？
• RQ2 在标准基准测试中，SOLOIST 在少样本设置下的表现相较于现有方法如何？
• RQ3 机器教学在多大程度上能减少标注成本，同时保持或提升模型性能？
• RQ4 从大规模异构对话数据中进行迁移学习，能否提升低资源对话场景下的泛化能力？
• RQ5 SOLOIST 的统一架构是否在少样本条件下于 CamRest 和 MultiWOZ 数据集上实现了最先进结果？

主要发现

• SOLOIST 在 CamRest 和 MultiWOZ 基准测试的少样本设置下均取得了新的最先进性能。
• 该模型在少样本学习中显著优于现有方法，展现出在极少标注数据下的卓越泛化能力。
• 机器教学在保持高性能的同时，显著降低了新对话任务所需的标注成本。
• 统一的自回归模型无需独立模块训练，即可有效捕捉复杂的对话动态。
• 在大规模异构对话语料上进行预训练，使模型具备强大的零样本和少样本适应能力。
• 通过基于用户目标和现实世界知识的条件生成，模型能够生成具备依据且符合任务要求的响应。