[论文解读] Compiling Language Models from a Linguistically Motivated Unification Grammar

Manny Rayner, Beth Ann Hockey+4 more|ArXiv.org|Jun 9, 2000

Natural Language Processing Techniques参考文献 4被引用 10

一句话总结

本文研究了将语言学驱动的统一语法编译为实用语音识别语言模型的可行性。通过逐步扩展语法并使用Gemini系统将其编译为有限状态语言模型，研究发现复杂的句法规则——尤其是关系子句修饰——导致严重性能下降，表现为内存占用过高和识别速度缓慢，尽管简化版妥协方案在仅造成中等程度速度损失的情况下仍能保持可接受的性能。

ABSTRACT

Systems now exist which are able to compile unification grammars into language models that can be included in a speech recognizer, but it is so far unclear whether non-trivial linguistically principled grammars can be used for this purpose. We describe a series of experiments which investigate the question empirically, by incrementally constructing a grammar and discovering what problems emerge when successively larger versions are compiled into finite state graph representations and used as language models for a medium-vocabulary recognition task.

研究动机与目标

• 评估语言学原理驱动的统一语法是否可被实际编译为适用于中等词汇量语音识别的可用语言模型。
• 识别统一语法中导致编译为有限状态语言模型时性能瓶颈的具体句法结构。
• 评估基于语法的语言模型编译中语言表达力与计算效率之间的权衡。
• 探索是否存在一种折中语法，可在减少复杂句法规则资源开销的同时保持识别准确率。

提出的方法

• 本研究使用Gemini编译器将统一语法规则转换为上下文无关语法（CFG），再由Nuance工具包将这些CFG编译为概率有限状态图（PFSG）。
• 采用系统性、逐步扩展的方法：从最小语法开始，逐步扩展覆盖范围，以识别性能下降的临界点。
• 评估了三种语言模型版本：不含关系子句规则的版本、包含完整规则的版本，以及移除关系子句规则关键特征的简化版本。
• 通过在含与不含关系子句的41条语音语料上测量实时速度（xRT）、误拒率（FRej）、内存使用量（Mem）和词错误率（WER）来评估识别性能。
• 在八名说话人上进行实证评估，剔除极端值后对结果取平均以减少偏差。
• 分析重点在于识别性能下降的根本原因，特别是关系子句规则的影响，并评估通过移除特征来缓解问题的折中方案。

实验结果

研究问题

• RQ1 语言学驱动的统一语法能否成功编译为可用于语音识别的可用语言模型？
• RQ2 统一语法中的哪些句法规则在编译为有限状态语言模型时导致最严重的性能下降？
• RQ3 复杂规则（如关系子句修饰）的简化版本在多大程度上可保持识别准确率，同时降低计算开销？
• RQ4 在基于语法的语言建模中，语言表达力与识别效率之间是否存在实际的权衡？

主要发现

• 关系子句规则被确定为性能下降的主要原因，与无该规则的版本相比，识别时间增加了4.76倍（xRT）。
• 完整语法版本（rels）在非关系子句语句上的误拒率为16.1%，超过简化版本（no_rels）的9.0%超过一倍以上。
• 完整语法版本的内存消耗显著更高，有1.1%的语句因内存限制失败，而no_rels版本未发生任何内存失败。
• 在非关系子句语句上，完整语法版本的词错误率（WER）为5.7%，略低于简化版本的6.0%，表明其在效率代价下实现了更高的准确性。
• 在含关系子句的语句中，完整语法版本（rels）的WER为3.5%，低于简化版本（unlinked）的5.4%，但误拒率更高（26.7% vs. 20.0%）。
• 折中版本（unlinked）通过移除关系子句规则的关键特征，在识别性能上接近基线版本（no_rels）的同时，将xRT从4.76降至2.60，显示出表达力与效率之间可行的权衡。