[论文解读] Contextual Information and Specific Language Models for Spoken Language Understanding

Paolo Baggia, Morena Danieli+3 more|arXiv (Cornell University)|Nov 19, 1997

Speech and dialogue systems参考文献 11被引用 5

一句话总结

本文提出使用上下文感知、任务特定的语言模型来提升对话系统中的口语理解能力。通过根据对话状态动态选择在上下文相关数据上训练的语言模型，系统显著提高了语音识别和理解的准确性，实验表明在基于电话的口语对话系统中性能有明显提升。

ABSTRACT

In this paper we explain how contextual expectations are generated and used in the task-oriented spoken language understanding system Dialogos. The hard task of recognizing spontaneous speech on the telephone may greatly benefit from the use of specific language models during the recognition of callers' utterances. By 'specific language models' we mean a set of language models that are trained on contextually appropriated data, and that are used during different states of the dialogue on the basis of the information sent to the acoustic level by the dialogue management module. In this paper we describe how the specific language models are obtained on the basis of contextual information. The experimental result we report show that recognition and understanding performance are improved thanks to the use of specific language models.

研究动机与目标

• 解决在基于电话的口语对话系统中识别自发性、类自发性口语的挑战。
• 降低由自发性口语中词汇和句法多样性引起的识别错误。
• 研究对话管理中的上下文信息如何指导语言模型的选择。
• 开发并评估在上下文相关数据上训练的特定语言模型。
• 通过上下文感知建模展示语音识别和语言理解性能的提升。

提出的方法

• 系统使用对话管理模块来跟踪对话的当前状态并生成上下文预期。
• 针对每个对话状态，使用相关话语语料训练特定语言模型，以捕捉任务特定的词汇和短语模式。
• 在识别过程中，系统根据当前对话状态动态选择合适的语言模型，从而改善声学模型对齐。
• 使用n-gram语言建模技术，在经过上下文过滤的训练数据上构建语言模型。
• 将对话状态信息整合到语言建模过程中，可更准确地解码自发性口语。
• 系统使用标准指标（如词错误率和理解准确率）评估识别性能。

实验结果

研究问题

• RQ1 如何有效利用对话管理中的上下文信息来改进口语理解中的语言建模？
• RQ2 任务特定语言模型在多大程度上降低了自发性语音识别中的词错误率？
• RQ3 基于对话状态的动态语言模型选择能否提升口语对话系统中的理解准确率？
• RQ4 与通用模型相比，在上下文相关数据上训练语言模型有何影响？
• RQ5 将上下文预期整合到语音识别中，对噪声环境下自发性语音识别的鲁棒性有何影响？

主要发现

• 与通用语言模型相比，使用上下文特定语言模型显著降低了词错误率。
• 由于识别出的话语与预期对话行为更好地对齐，理解准确率得到提升。
• 在使用动态选择的语言模型时，系统在识别和理解任务中均实现了可测量的性能提升。
• 在特定对话状态相关数据上训练语言模型，可更准确地预测预期的词汇项和句法结构。
• 将对话状态信息整合到语言建模中，有效应对了自发性语音的多样性。
• 结果表明，上下文感知语言建模是提升任务导向对话中口语理解能力的一种可行且有效策略。