[论文解读] Analyzing and Improving Statistical Language Models for Speech Recognition

Ueberla, Joerg P.|ArXiv.org|Jun 17, 1994

Speech Recognition and Synthesis参考文献 13被引用 11

一句话总结

本文提出了一种基于对数总概率（LTP）这一与困惑度相关的度量指标，对语音识别中统计语言模型的弱点进行形式化分析。通过识别模型缺陷——尤其是对未知词的处理和长距离依赖关系的建模问题——本文提出了一种改进的双词性（bi-pos）模型，性能提升达14–21%；并提出了一种广义N-词性（N-pos）模型，整合了扩展的语法知识，增强了复杂识别任务下的鲁棒性。

ABSTRACT

In many current speech recognizers, a statistical language model is used to indicate how likely it is that a certain word will be spoken next, given the words recognized so far. How can statistical language models be improved so that more complex speech recognition tasks can be tackled? Since the knowledge of the weaknesses of any theory often makes improving the theory easier, the central idea of this thesis is to analyze the weaknesses of existing statistical language models in order to subsequently improve them. To that end, we formally define a weakness of a statistical language model in terms of the logarithm of the total probability, LTP, a term closely related to the standard perplexity measure used to evaluate statistical language models. We apply our definition of a weakness to a frequently used statistical language model, called a bi-pos model. This results, for example, in a new modeling of unknown words which improves the performance of the model by 14% to 21%. Moreover, one of the identified weaknesses has prompted the development of our generalized N-pos language model, which is also outlined in this thesis. It can incorporate linguistic knowledge even if it extends over many words and this is not feasible in a traditional N-pos model. This leads to a discussion of whatknowledge should be added to statistical language models in general and we give criteria for selecting potentially useful knowledge. These results show the usefulness of both our definition of a weakness and of performing an analysis of weaknesses of statistical language models in general.

研究动机与目标

• 识别并形式化语音识别中现有统计语言模型的弱点。
• 通过使用形式化度量指标——对数总概率（LTP），系统分析并解决这些弱点，以提升模型性能。
• 开发一种广义N-词性语言模型，能够整合跨越多个词的语法知识，克服传统N-gram模型的局限性。
• 建立选择可有效整合进统计语言模型的语法知识的准则。
• 证明对模型弱点的分析可带来语音识别准确率的可测量提升。

提出的方法

• 以对数总概率（LTP）作为形式化度量，定义模型弱点，该度量与困惑度密切相关。
• 将基于LTP的弱点分析方法应用于广泛用于语音识别的双词性（bi-pos）语言模型。
• 基于识别出的弱点，设计一种新型未知词建模策略，提升模型鲁棒性与性能。
• 提出广义N-词性语言模型，突破局部n-gram的限制，捕捉更长序列中的语言知识。
• 使用LTP度量评估并比较不同模型变体，确保对性能改进的客观评估。
• 建立选择并整合潜在有用语法知识进统计语言模型的准则。

实验结果

研究问题

• RQ1 如何对语音识别中统计语言模型的弱点进行形式化定义与度量？
• RQ2 双词性模型中哪些具体缺陷导致性能下降，又该如何修正？
• RQ3 广义N-词性模型能否有效整合跨越多个词的语法知识，而传统N-gram模型则不具备此能力？
• RQ4 应依据何种准则来选择可整合进统计语言模型的有用语法知识？
• RQ5 对模型弱点的分析在多大程度上能带来语音识别准确率的可测量提升？

主要发现

• 所提出的未知词建模策略使双词性模型的性能提升了14%至21%。
• 广义N-词性语言模型成功整合了跨越多个词的语言知识，这是标准N-gram模型所不具备的能力。
• LTP度量能有效识别模型弱点，并指导语言模型设计的针对性改进。
• 分析表明，传统N-gram模型无法捕捉长距离语言依赖关系，从而推动了广义N-词性框架的提出。
• 本研究证明，形式化的弱点分析可带来系统性、可测量的语言模型性能提升。
• 用于选择有用语法知识的框架为增强统计语言模型提供了有原则的方法。