[论文解读] Recognition Performance of a Structured Language Model

Ciprian Chelba, Frederick Jelinek|ArXiv.org|Jan 24, 2000

Speech Recognition and Synthesis参考文献 7被引用 32

一句话总结

该论文提出一种结构化语言模型（SLM），通过逐步构建句法解析树来捕捉语音识别中的长距离依赖关系，优于传统的三元语法模型。通过将分层句法结构与概率建模相结合，并使用A*网格解码器，SLM将困惑度降低1.4–1.8%，并在SWITCHBOARD语料库上相对于基线三元语法模型将词错误率（WER）绝对降低1%。

ABSTRACT

A new language model for speech recognition inspired by linguistic analysis is presented. The model develops hidden hierarchical structure incrementally and uses it to extract meaningful information from the word history - thus enabling the use of extended distance dependencies - in an attempt to complement the locality of currently used trigram models. The structured language model, its probabilistic parameterization and performance in a two-pass speech recognizer are presented. Experiments on the SWITCHBOARD corpus show an improvement in both perplexity and word error rate over conventional trigram models.

研究动机与目标

• 开发一种利用句法结构捕捉语音识别中长距离依赖关系的语言模型。
• 通过整合分层的、从左到右的解析结构，克服三元语法模型的局部性限制。
• 通过基于网格的推理与A*搜索算法，实现实现高效解码。
• 在双阶段语音识别框架中，通过网格重打分评估模型性能。
• 证明句法结构在超越传统n-gram模型的基础上，能够同时提升困惑度与词错误率表现。

提出的方法

• SLM为词序列W及其二叉解析树T联合分配概率P(W,T)，其中叶节点为词和词性标注，内部节点标注短语中心词与非终结符标签。
• 该模型采用三部分概率分解：P(w_k|W_{k-1}T_{k-1})、P(t_k|w_k, W_{k-1}T_{k-1}) 和 P(p_i^k|W_kT_k)，通过删除插值进行参数化。
• 采用同步多栈搜索算法，将指数级增长的解析空间（O(2^k)）剪枝，使解码过程在计算上可行。
• 最终的词概率通过活动解析的加权和计算：P_SLM(w_{k+1}|W_k) = Σ P(w_{k+1}|W_kT_k) × ρ(W_k, T_k)，其中ρ对解析概率进行归一化。
• 采用N-best EM变体重新估计模型参数，以最小化训练数据上的困惑度。
• 使用带有启发式前瞻和栈深度约束的A*网格解码器，以在词网格中寻找最优路径，并在SLM与三元语法模型之间进行插值。

实验结果

研究问题

• RQ1 能否通过从左到右、因子化的语言模型，逐步构建句法结构，从而提升语音识别性能？
• RQ2 与三元语法模型相比，整合分层句法结构是否能降低困惑度与词错误率？
• RQ3 该结构化语言模型能否在基于网格的解码框架中有效利用长距离依赖关系？
• RQ4 在WER与路径质量方面，A*搜索策略与Viterbi搜索及N-best重打分相比表现如何？
• RQ5 尽管存在分词不匹配问题，SLM与三元语法模型之间的插值在多大程度上能提升性能？

主要发现

• SLM在基线三元语法模型基础上实现了1%的词错误率（WER）绝对降低，统计显著性水平为0.002。
• 与初始SLM相比，使用重新估计的SLM后，测试集上的困惑度降低了1.8%（从71.0降至65.4）。
• 将SLM与三元语法模型进行插值可进一步降低困惑度，尽管由于分词不匹配，该插值并非严格有效。
• 在三元语法情况下，A*解码器相比Viterbi搜索降低了0.3% WER，表明其路径剪枝与启发式引导效果良好。
• 在2,427个测试句中的585句中，A*搜索选择的假设得分低于N-best中的最佳假设，但其WER仍更低，表明泛化能力更强。
• A*假设在25个最佳候选中的平均排名为1.07，表明其与最优路径高度一致。