[论文解读] Exploiting Sentence and Context Representations in Deep Neural Models for Spoken Language Understanding

Lina M. Rojas Barahona, Milica Gašić+5 more|arXiv (Cornell University)|Oct 13, 2016

Speech and dialogue systems参考文献 18被引用 14

一句话总结

本文提出了一种用于口语理解的深度神经网络架构，通过使用未对齐的语义标注，联合预测对话行为和槽值对，利用卷积神经网络学习句子表征，利用LSTM进行上下文建模。该模型在DSTC2和In-car数据集上的ICE得分和F1值均优于先前基线模型，实现了最先进性能，且无需人工特征工程或去lexical化处理。

ABSTRACT

This paper presents a deep learning architecture for the semantic decoder component of a Statistical Spoken Dialogue System. In a slot-filling dialogue, the semantic decoder predicts the dialogue act and a set of slot-value pairs from a set of n-best hypotheses returned by the Automatic Speech Recognition. Most current models for spoken language understanding assume (i) word-aligned semantic annotations as in sequence taggers and (ii) delexicalisation, or a mapping of input words to domain-specific concepts using heuristics that try to capture morphological variation but that do not scale to other domains nor to language variation (e.g., morphology, synonyms, paraphrasing ). In this work the semantic decoder is trained using unaligned semantic annotations and it uses distributed semantic representation learning to overcome the limitations of explicit delexicalisation. The proposed architecture uses a convolutional neural network for the sentence representation and a long-short term memory network for the context representation. Results are presented for the publicly available DSTC2 corpus and an In-car corpus which is similar to DSTC2 but has a significantly higher word error rate (WER).

研究动机与目标

• 开发一种无需依赖词对齐语义标注或人工去lexical化的语义解码器。
• 通过利用分布式语义表征，提升在低资源和噪声ASR条件下的鲁棒性。
• 实现在无需特定应用语义词典的情况下，跨多样化对话领域可扩展的部署。
• 通过端到端深度学习实现对话行为和槽值对的联合预测，且预处理最少。
• 评估上下文建模在高词错误率条件下的槽填充性能影响。

提出的方法

• 使用卷积神经网络（CNN）从原始话语中学习句子级表征。
• 使用长短期记忆（LSTM）网络对对话历史中的上下文依赖关系进行建模。
• 通过非线性函数组合CNN和LSTM的高层特征，实现对话行为和槽存在性的联合预测。
• 在第一阶段为对话行为和槽分类分别应用独立的softmax层。
• 在第二阶段，对每个检测到的槽使用单个softmax层预测槽值。
• 在未对齐的语义标注上端到端训练模型，避免显式去lexical化或启发式映射。

实验结果

研究问题

• RQ1 深度神经网络架构是否能在无需词对齐语义标注的情况下，联合预测对话行为和槽值对？
• RQ2 句法和上下文表征的融合在噪声ASR假设下的性能提升程度如何？
• RQ3 分布式词表征在语义解码中在多大程度上可替代人工去lexical化？
• RQ4 在高词错误率条件下，上下文建模是否显著提升槽F值测量？
• RQ5 该模型在不同对话领域和不同槽基数条件下的表现如何？

主要发现

• 在DSTC2语料上，使用4词上下文窗口的CNN+LSTM模型取得0.758的最佳项交叉熵（ICE）得分，优于所有基线模型。
• 在In-car语料上，该模型取得1.106的ICE得分，显著优于WNGRAMS基线（1.497），且与WNGRAMS+Ctxt基线（1.497）相当。
• 在DSTC2上，该模型取得83.59%的F1得分，超过SLU1基线（80.2%），且无需人工特征即可实现强大泛化能力。
• 在In-car上，该模型取得73.06%的F1得分，优于WNGRAMS基线（70.8%），尽管未使用上下文特征，但已接近WNGRAMS+Ctxt模型的性能。
• 该模型对高词错误率具有鲁棒性，上下文建模在噪声条件下显著提升了槽F值测量。
• 在DSTC2语料上，对话行为分类准确率达到95.72%，槽分类F1得分为90.60%，表明其在语义理解任务中表现强劲。