[论文解读] Task-Oriented Dialog Systems that Consider Multiple Appropriate Responses under the Same Context

Yichi Zhang, Zhijian Ou+1 more|arXiv (Cornell University)|Nov 24, 2019

Topic Modeling参考文献 29被引用 24

一句话总结

本文提出多动作数据增强（MADA），一种通过学习平衡的状态到动作映射来生成多样化、恰当响应的框架，以增强任务导向对话系统。通过在每个对话状态中引入多个有效系统动作来增强训练数据，MADA 提升了策略多样性与响应质量，在 MultiWOZ 上实现了显著提升的响应多样性与恰当性，达到当前最优性能。

ABSTRACT

Conversations have an intrinsic one-to-many property, which means that multiple responses can be appropriate for the same dialog context. In task-oriented dialogs, this property leads to different valid dialog policies towards task completion. However, none of the existing task-oriented dialog generation approaches takes this property into account. We propose a Multi-Action Data Augmentation (MADA) framework to utilize the one-to-many property to generate diverse appropriate dialog responses. Specifically, we first use dialog states to summarize the dialog history, and then discover all possible mappings from every dialog state to its different valid system actions. During dialog system training, we enable the current dialog state to map to all valid system actions discovered in the previous process to create additional state-action pairs. By incorporating these additional pairs, the dialog policy learns a balanced action distribution, which further guides the dialog model to generate diverse responses. Experimental results show that the proposed framework consistently improves dialog policy diversity, and results in improved response diversity and appropriateness. Our model obtains state-of-the-art results on MultiWOZ.

研究动机与目标

• 为解决因数据分布不平衡而偏向常见对话策略，导致任务导向对话系统缺乏多样性的问题。
• 建模对话系统固有的多对多特性，即同一对话上下文下可采取多个有效动作。
• 通过在训练过程中发现并整合每个对话状态的所有有效系统动作，改进对话策略学习。
• 通过平衡的策略学习，使模型能够生成多样化且恰当的响应，从而提升响应生成质量。
• 在 MultiWOZ 基准上，同时在响应多样性和恰当性方面达到当前最优性能。

提出的方法

• 对话语进行去词化处理，以减少表层语言差异，聚焦于语义内容。
• 使用对话状态和系统动作表示对话历史，生成结构化、紧凑的表示。
• 从整个训练语料中提取并存储所有有效的状态到动作映射。
• 在训练过程中，通过为每个对话状态包含所有有效系统动作（而不仅真实标签）来增强数据集。
• 训练一个领域感知多解码器（DAMD）模型，利用增强后的状态-动作对生成多样化响应。
• 在解码过程中使用 top-k 采样，以最大化动作多样性并提升响应多样性。

实验结果

研究问题

• RQ1 在每个对话状态中建模多个有效系统动作，是否能提升任务导向对话系统的响应多样性？
• RQ2 基于状态-动作映射的数据增强，如何影响对话策略学习与响应质量？
• RQ3 在多领域基准上，平衡的状态到动作策略在多大程度上能提升响应的恰当性与多样性？
• RQ4 所提出的 MADA 框架是否能在不同对话模型与架构上实现泛化？
• RQ5 领域感知解码的集成，如何增强多领域设置下数据增强的有效性？

主要发现

• 所提出的 MADA 框架显著提升了响应多样性，在人类评估中达到 3.65 的平均多样性得分，相较基线 DAMD 模型的 3.12 显著提升。
• 经过数据增强的 DAMD 模型获得 2.53 的最高平均恰当性得分，表明响应质量更优。
• 模型生成的响应中有 63.0% 被评为“良好”，相较基线有显著提升。
• 该框架减少了对主导策略的依赖，使模型能够生成较少见但有效的动作，如直接推荐。
• 人类评估确认，经数据增强的模型生成了更多样化且质量更高的响应，高质量响应比例相较基线提升 17%。
• 采用 MADA 的 DAMD 模型在多样性与恰当性上均优于 HDSA，证明基于解码的动动生成方法在效果上优于分类方法。