[论文解读] Multi-Domain Dialogue Acts and Response Co-Generation

Kai Wang, Junfeng Tian+3 more|arXiv (Cornell University)|Apr 26, 2020

Topic Modeling参考文献 29被引用 6

一句话总结

该论文提出了一种神经联合生成模型，能够联合生成任务型对话中的对话行为和响应，保持层次化行为结构，并支持从响应生成到行为的动态注意力机制。通过使用不确定性损失实现自适应任务加权，该模型在MultiWOZ数据集上取得了最先进性能，在自动评估和人工评估中均优于先前方法。

ABSTRACT

Generating fluent and informative responses is of critical importance for task-oriented dialogue systems. Existing pipeline approaches generally predict multiple dialogue acts first and use them to assist response generation. There are at least two shortcomings with such approaches. First, the inherent structures of multi-domain dialogue acts are neglected. Second, the semantic associations between acts and responses are not taken into account for response generation. To address these issues, we propose a neural co-generation model that generates dialogue acts and responses concurrently. Unlike those pipeline approaches, our act generation module preserves the semantic structures of multi-domain dialogue acts and our response generation module dynamically attends to different acts as needed. We train the two modules jointly using an uncertainty loss to adjust their task weights adaptively. Extensive experiments are conducted on the large-scale MultiWOZ dataset and the results show that our model achieves very favorable improvement over several state-of-the-art models in both automatic and human evaluations.

研究动机与目标

• 解决流水线方法在任务型对话系统中的局限性，这些方法忽略了对话行为结构以及行为与响应之间的语义关联。
• 通过将对话行为预测建模为序列生成任务而非分类任务，提升响应质量。
• 通过交叉注意力机制实现在响应生成与对话行为生成之间的动态交互。
• 通过使用不确定性损失实现自适应任务加权，减少对人工调参的依赖。

提出的方法

• 将对话行为预测视为序列生成问题，保留层次化结构（领域-动作-槽）而非使用全局向量表示。
• 提出一种联合生成框架，通过交叉注意力机制使响应生成能够动态关注相关对话行为。
• 采用不确定性损失自动学习对话行为与响应生成的最优损失权重，降低对超参数调优的敏感性。
• 使用基于不确定性的自适应加权策略，联合训练两个模块，采用多任务学习目标。
• 采用基于Transformer的架构分别处理行为与响应生成，支持通过自注意力与交叉注意力进行序列建模。
• 应用覆盖机制以减轻生成响应中的词级别重复问题。

实验结果

研究问题

• RQ1 将对话行为预测建模为序列生成任务，是否能改善层次化行为结构的建模并提升响应质量？
• RQ2 从响应生成到对话行为的动态交叉注意力机制，如何提升响应的相关性与信息量？
• RQ3 使用不确定性损失实现自适应损失加权，是否能带来优于固定或人工调参权重的联合训练性能？
• RQ4 所提出的联合生成模型在大规模基准数据集上的自动评估与人工评估中，相较于最先进方法表现如何？

主要发现

• 所提模型在MultiWOZ 2.1数据集上的自动评估与人工评估中，均优于多个最先进方法。
• 人工评估显示，该模型在65%的完成度比较中胜过HDSA，在94%的可读性比较中与之持平。
• 该模型生成的响应更具信息量，能够正确回应用户请求（如酒店类型或票数），而无需追问。
• 不确定性损失在多种权重设置下均表现出优于加权和损失的性能，证明了其在自适应任务平衡方面的有效性。
• 通过联合学习减少误差传播，相较于易出错的流水线方法更具优势。
• 分析表明，该模型在一定程度上存在词级别重复问题，但可通过覆盖机制有效缓解。