[论文解读] A Context-based Approach for Dialogue Act Recognition using Simple Recurrent Neural Networks

Chandrakant Bothe, Cornelius Weber+2 more|arXiv (Cornell University)|May 16, 2018

Speech and dialogue systems被引用 26

一句话总结

本文提出了一种基于上下文的对话行为识别模型，采用简单的循环神经网络（RNN），通过引入先前话语来提升分类准确率。通过使用在领域无关数据上预训练的字符级语言模型表示话语，并将说话人身份和上下文输入RNN，该模型在Switchboard语料库上实现了77.34%的准确率——比基线模型高出3%——表明上下文显著提升了实时系统中的对话行为检测性能。

ABSTRACT

Dialogue act recognition is an important part of natural language understanding. We investigate the way dialogue act corpora are annotated and the learning approaches used so far. We find that the dialogue act is context-sensitive within the conversation for most of the classes. Nevertheless, previous models of dialogue act classification work on the utterance-level and only very few consider context. We propose a novel context-based learning method to classify dialogue acts using a character-level language model utterance representation, and we notice significant improvement. We evaluate this method on the Switchboard Dialogue Act corpus, and our results show that the consideration of the preceding utterances as a context of the current utterance improves dialogue act detection.

研究动机与目标

• 为解决仅基于话语的对话行为分类的局限性，通过对话上下文建模话语的组合性。
• 探究在真实对话中，上下文敏感的对话行为在短句或模糊话语中的表现程度。
• 提出一种基于上下文的学习方法，仅使用少数先前话语即可提升对话行为识别准确率。
• 在Switchboard对话行为语料库上评估模型，重点关注其在语音对话系统中的实时适用性。
• 证明仅使用最小上下文（1–4个先前话语）即可实现显著性能提升，而无需完整对话历史。

提出的方法

• 该模型使用简单的循环神经网络（RNN）对先前话语和当前话语的上下文进行编码，用于对话行为分类。
• 话语通过在领域无关数据上预训练的字符级语言模型进行表示，实现鲁棒的序列编码。
• 说话人身份（A/B）以独热向量形式嵌入，并与每个话语拼接，以帮助网络检测话语轮换和说话人转换。
• RNN按顺序处理话语序列，每一步更新隐藏状态，最终隐藏状态通过Softmax层用于预测对话行为。
• 模型使用分类交叉熵损失、Adam优化器、梯度裁剪和早停法进行训练，以防止过拟合。
• 上下文在每个新话语处动态重置，确保模型仅使用过去话语而非未来话语，从而支持实时推理。

实验结果

研究问题

• RQ1 与仅基于话语的分类相比，将先前话语作为上下文对对话行为识别准确率有何影响？
• RQ2 与完整对话建模相比，最小上下文窗口（1–4个话语）在多大程度上提升了对话行为检测性能？
• RQ3 字符级语言模型表示能否有效捕捉对话行为分类所需的语篇级特征？
• RQ4 包含说话人身份是否提升了模型检测上下文敏感对话行为的能力？
• RQ5 与当前最先进方法相比，所提出的基于上下文的RNN模型在准确率和实时可行性方面表现如何？

主要发现

• 所提出的基于上下文的RNN模型在Switchboard对话行为语料库上实现了77.34%的准确率，比无上下文的基线模型（73.96%）高出3.38个百分点。
• 仅引入一个先前话语即可使准确率从73.96%提升至76.57%，当使用三个先前话语时，准确率进一步提升至77.34%。
• 当使用四个先前话语时，模型性能稳定在77.28%的准确率，表明在三个上下文步骤后收益递减。
• 在使用三个上下文话语时，模型在十次运行中的标准差为0.21，表明结果具有一致性。
• 使用字符级语言模型进行话语表示，有效捕捉了词汇和句法线索，尤其适用于短句或模糊话语。
• 与先前最先进方法（Kalchbrenner和Blunsom，2013年）相比，该模型在使用上下文的情况下准确率高出3.44个百分点（该方法准确率为73.9%）。