[论文解读] Dialogue Act Recognition via CRF-Attentive Structured Network

Zheqian Chen, Rongqin Yang+3 more|arXiv (Cornell University)|Nov 15, 2017

Speech and dialogue systems参考文献 36被引用 10

一句话总结

本文提出 CRF-ASN，一种新颖的端到端深度学习模型，用于对话行为识别，该模型将层次语义推理与记忆机制及线性链 CRF 层上的结构化注意力网络相结合。该方法捕捉了话语层面和对话行为层面的依赖关系，在 Switchboard 数据集上实现了最先进性能，并与人工标注者准确率相差仅 2%。

ABSTRACT

Dialogue Act Recognition (DAR) is a challenging problem in dialogue interpretation, which aims to attach semantic labels to utterances and characterize the speaker's intention. Currently, many existing approaches formulate the DAR problem ranging from multi-classification to structured prediction, which suffer from handcrafted feature extensions and attentive contextual structural dependencies. In this paper, we consider the problem of DAR from the viewpoint of extending richer Conditional Random Field (CRF) structural dependencies without abandoning end-to-end training. We incorporate hierarchical semantic inference with memory mechanism on the utterance modeling. We then extend structured attention network to the linear-chain conditional random field layer which takes into account both contextual utterances and corresponding dialogue acts. The extensive experiments on two major benchmark datasets Switchboard Dialogue Act (SWDA) and Meeting Recorder Dialogue Act (MRDA) datasets show that our method achieves better performance than other state-of-the-art solutions to the problem. It is a remarkable fact that our method is nearly close to the human annotator's performance on SWDA within 2% gap.

研究动机与目标

• 解决传统多分类方法在对话行为识别中的局限性，这些方法依赖手工特征且忽略上下文依赖关系。
• 克服现有结构化预测模型的不足，这些模型将对话视为扁平序列，无法建模话语和行为层面的双重依赖关系。
• 在保持端到端可微性的前提下，整合更丰富的条件随机场（CRF）结构依赖关系与注意力机制，以实现联合优化。
• 通过层次语义推理和跨话语的记忆增强编码，增强长距离上下文建模能力。
• 在基准对话行为识别数据集上实现接近人类水平的标注性能。

提出的方法

• 采用具有记忆增强的层次语义推理机制，以在词、话语和对话层面建模话语表示。
• 集成记忆增强的循环网络，以捕捉对话序列中的长期依赖关系。
• 设计一种位于线性链 CRF 层内部的结构化注意力网络，以建模话语行为之间的软性、上下文感知依赖关系。
• 将结构化注意力机制制定为同时考虑上下文话语和对应对话行为标签，从而实现对结构依赖关系的软性选择。
• 使用反向传播端到端训练整个模型，确保所有组件的完全可微性与联合优化。
• 使用 CRF 层建模对话行为中的序列依赖关系，同时通过注意力机制根据上下文相关性优化转移分数。

实验结果

研究问题

• RQ1 深度神经网络能否有效捕捉对话上下文中话语与对话行为之间的层次语义表示？
• RQ2 结构化注意力机制在建模超越局部话语特征的依赖关系方面，能在多大程度上提升对话行为识别性能？
• RQ3 将更丰富的 CRF 结构依赖关系与注意力机制结合，是否能带来优于标准 CRF 或仅注意力模型的性能提升？
• RQ4 通过结构化注意力与记忆机制的端到端训练，能否缩小对话行为识别中与人工标注者之间的性能差距？
• RQ5 所提出的模型在 SWDA 和 MRDA 等标准基准数据集上与最先进方法相比表现如何？

主要发现

• 所提出的 CRF-ASN 模型在 Switchboard 对话行为（SWDA）和会议记录对话行为（MRDA）基准数据集上均取得了最先进性能。
• 在 SWDA 数据集上，该模型的性能与人工标注者准确率相差仅 2%，表现出接近人类水平的性能。
• 将层次语义推理与记忆机制相结合，显著提升了对话轮次间长距离依赖关系的建模能力。
• CRF 层内部的结构化注意力机制有效捕捉了相邻话语及其对话行为标签之间的上下文影响。
• 在两个数据集上，该模型在 F1 分数和准确率方面均优于现有最先进方法，如 DRLM-Conditional、LSTM-Softmax 和 RCNN。
• 端到端训练策略实现了话语表示与结构化预测的有效联合优化，避免了对手工特征的依赖。