[论文解读] Domain Adaptive Dialog Generation via Meta Learning

Kun Qian, Yu Zhou|arXiv (Cornell University)|Jun 8, 2019

Topic Modeling参考文献 39被引用 20

一句话总结

本文提出了一种基于元学习的领域自适应对话生成方法（DAML），该方法通过少量示例即可快速适应新领域，实现端到端对话系统的领域自适应。通过在多个丰富资源领域上应用模型无关元学习（MAML），DAML 学习到一种鲁棒的参数初始化，能够有效泛化，在零样本领域迁移设置下实现最先进性能，且所需目标数据极少。

ABSTRACT

Domain adaptation is an essential task in dialog system building because there are so many new dialog tasks created for different needs every day. Collecting and annotating training data for these new tasks is costly since it involves real user interactions. We propose a domain adaptive dialog generation method based on meta-learning (DAML). DAML is an end-to-end trainable dialog system model that learns from multiple rich-resource tasks and then adapts to new domains with minimal training samples. We train a dialog system model using multiple rich-resource single-domain dialog data by applying the model-agnostic meta-learning algorithm to dialog domain. The model is capable of learning a competitive dialog system on a new domain with only a few training examples in an efficient manner. The two-step gradient updates in DAML enable the model to learn general features across multiple tasks. We evaluate our method on a simulated dialog dataset and achieve state-of-the-art performance, which is generalizable to new tasks.

研究动机与目标

• 解决在新领域训练对话系统时面临的数据稀缺问题，因为收集标注的用户交互数据成本高且耗时长。
• 克服由于语言和结构上的领域特异性差异，导致从丰富资源领域向低资源或未见领域迁移知识的困难。
• 开发一种可端到端训练的对话系统，能够跨领域泛化，并在极少微调下快速适应新任务。
• 通过元学习学习对快速适应敏感的参数初始化，超越现有零样本学习与迁移学习方法。
• 在包括电影信息查询等难以适应的领域中，展示方法的鲁棒性与泛化能力。

提出的方法

• 在多个源领域（餐厅、天气、公交）上应用模型无关元学习（MAML），训练对话系统以学习一种共享的、可泛化的参数初始化。
• 采用两阶段 CopyNet 增强的序列到序列模型（Sequicity）作为基础架构，引入信念跨度追踪以提升槽位填充与响应生成性能。
• 在 MAML 中执行两步梯度更新：内循环使用少量样本将模型适配到新任务，外循环更新初始化以最小化适应后的损失。
• 使用标准梯度下降在少量目标领域数据（如电影信息查询）上微调元学习得到的初始化。
• 引入信念跨度表示以简化槽位追踪，并通过直接复制前一回合的槽位提升实体 F1。
• 利用 SimDial 生成的模拟对话数据，在受控且可复现的条件下评估跨领域的泛化性能。

实验结果

研究问题

• RQ1 元学习能否使对话系统在仅有少量训练样本的情况下，泛化到多样且未见过的领域？
• RQ2 在低资源领域上，所提出的 DAML 方法与零样本学习（ZSDG）和迁移学习基线相比，在实体 F1 和 BLEU 分数上的表现如何？
• RQ3 目标领域数据量的变化对适应性能有何影响？DAML 在极少量数据下收敛速度如何？
• RQ4 DAML 对领域分布偏移、未登录词（OOV）和包含更正或代词的复杂语句的鲁棒性如何？
• RQ5 信念跨度与两阶段 CopyNet 的使用是否在低资源适应设置下提升了性能与泛化能力？

主要发现

• DAML 在电影信息查询领域实现了最先进性能，实体 F1 达 64.0，BLEU 得分为 30.1，优于 ZSDG 基线与迁移学习方法。
• 即使仅使用一个训练样本（零样本学习），DAML 在电影领域仍取得 BLEU 32.7 和实体 F1 66.2，两项指标均超过 ZSDG。
• 随着目标数据量增加，性能持续提升，当使用 4% 的目标数据时，实体 F1 与 BLEU 分数几乎达到收敛，表明数据利用效率高。
• 餐厅领域是最易适应的领域，达到最高实体 F1（82.1）与 BLEU（47.9），而电影领域最具挑战性，证实其作为困难测试用例的适用性。
• 模型在处理 OOV 词（unk）、代词如 'ones' 以及包含更正的复杂语句方面仍存在局限，提示未来改进方向。
• 留一法评估验证了 DAML 的鲁棒性，在所有领域组合中，包括最具挑战性的目标领域（电影），均持续优于基线方法。