[论文解读] Specialized Language Models using Dialogue Predictions

C. Popovici, Paolo Baggia|ArXiv.org|Dec 12, 1996

Speech and dialogue systems参考文献 8被引用 6

一句话总结

本文提出对话依赖的语言模型，通过针对特定对话行为（如请求或确认参数）定制语言模型，而非使用单一通用模型，从而提升语音对话系统中的语音识别与理解性能。在意大利Dialogos铁路时刻表系统上的实验表明，专用模型显著提升了性能，尤其是在系统响应理解方面，优于通用模型以及聚类或更优声学模型等互补技术。

ABSTRACT

This paper analyses language modeling in spoken dialogue systems for accessing a database. The use of several language models obtained by exploiting dialogue predictions gives better results than the use of a single model for the whole dialogue interaction. For this reason several models have been created, each one for a specific system question, such as the request or the confirmation of a parameter. The use of dialogue-dependent language models increases the performance both at the recognition and at the understanding level, especially on answers to system requests. Moreover other methods to increase performance, like automatic clustering of vocabulary words or the use of better acoustic models during recognition, does not affect the improvements given by dialogue-dependent language models. The system used in our experiments is Dialogos, the Italian spoken dialogue system used for accessing railway timetable information over the telephone. The experiments were carried out on a large corpus of dialogues collected using Dialogos.

研究动机与目标

• 提升语音对话系统在数据库查询中的语音识别与自然语言理解能力。
• 解决在多样化对话情境中使用单一通用语言模型的局限性。
• 探究对话特定语言模型相较于统一模型是否能提升性能。
• 评估专用模型在真实对话系统中对识别准确率与理解有效性的影响。
• 确定专用模型带来的收益是否可与词汇聚类或更优声学模型等其他改进相叠加。

提出的方法

• 开发多个语言模型，每个均针对对话流程中的特定对话行为（如请求、确认）进行定制。
• 在来自Dialogos系统的实际电话对话大规模语料上训练语言模型。
• 利用对话预测识别当前对话状态，并动态选择合适的语言模型。
• 将专用模型集成至铁路时刻信息查询的语音对话系统中。
• 使用语音识别与自然语言理解的标准指标评估性能。
• 将结果与单一通用语言模型及其他增强技术（如词汇聚类、改进的声学模型）进行对比。

实验结果

研究问题

• RQ1 与单一通用模型相比，对话特定语言模型是否能提升语音对话系统中的识别与理解性能？
• RQ2 专用语言模型在不同对话行为（如请求与确认）中的性能表现如何变化？
• RQ3 对话依赖语言模型的优势是否可与词汇聚类或更优声学模型等其他技术改进相叠加？
• RQ4 专用模型在多大程度上提升了对系统生成响应的理解？
• RQ5 对话预测是否能有效用于在每一轮对话中选择最合适的语言模型？

主要发现

• 专用语言模型在语音识别与自然语言理解任务中均显著优于单一通用语言模型。
• 性能提升在处理系统生成响应时最为显著，尤其针对确认与请求行为。
• 使用对话依赖语言模型带来的改进独立于且可叠加于其他优化措施，如词汇聚类或更优声学模型。
• 在使用行为特定语言模型时，系统对用户话语的整体理解准确率得到提升，尤其在复杂对话轮次中表现更优。
• 该方法证明，通过定制化语言模型建模对话上下文，可在真实世界语音对话应用中实现可测量的性能提升。
• 结果证实，对话预测可有效用于在每一轮对话中选择最合适的语言模型，从而增强系统鲁棒性。