[论文解读] Robust stochastic parsing using the inside-outside algorithm

Briscoe, Ted+2 more|ArXiv.org|Dec 19, 1994

Natural Language Processing Techniques被引用 41

一句话总结

本文提出了一种基于inside-outside（Baum-Welch）算法的鲁棒概率解析框架，用于在概率上下文无关文法（PCFG）中重新估计规则概率，从而实现对歧义句和未充分生成句的覆盖。通过结合显式规则与隐式规则生成，并整合基于特征的统一约束，该方法在测试数据上的覆盖率达到96%，同时保持了较高的解析准确率，表明通过约束规则归纳的PCFG能够实现在句法解析中的实际鲁棒性。

ABSTRACT

The paper describes a parser of sequences of (English) part-of-speech labels which utilises a probabilistic grammar trained using the inside-outside algorithm. The initial (meta)grammar is defined by a linguist and further rules compatible with metagrammatical constraints are automatically generated. During training, rules with very low probability are rejected yielding a wide-coverage parser capable of ranking alternative analyses. A series of corpus-based experiments describe the parser's performance.

研究动机与目标

• 解决广泛覆盖自然语言解析器中的未充分生成和结构歧义问题。
• 开发一种能够处理任意自然语言输入的鲁棒概率解析系统。
• 利用inside-outside算法对PCFG进行重估计，以提升解析覆盖度与准确率。
• 将语言学约束（例如基于统一的特征）整合到概率解析中，以减少虚假歧义。
• 评估基于规则归纳的概率解析是否能在真实世界解析任务中达到实用性能水平。

提出的方法

• 将inside-outside（Baum-Welch）算法应用于在歧义性真实语料上训练的PCFG中，以重新估计规则概率。
• 使用Viterbi解码为每句话选择最可能的解析。
• 实施显式/隐式语法策略，其中隐式规则由现有规则生成，以提升覆盖度。
• 将基于特征的统一约束整合到PCFG核心中，以过滤掉语言上不合理的推导路径。
• 通过迭代重估计，使语法在训练语料上的似然度最大化。
• 采用GEIG方案对解析准确率、召回率和精确率进行定量评估。

实验结果

研究问题

• RQ1 inside-outside算法是否能有效重估计PCFG规则概率，从而提升在真实歧义语料上的解析鲁棒性？
• RQ2 隐式规则生成在不降低解析准确率的前提下，能在多大程度上提升覆盖度？
• RQ3 基于统一的约束如何影响PCFG重估计的收敛性与准确率？
• RQ4 概率规则归纳与语言学约束的结合是否能产生一个实用且鲁棒的解析系统？
• RQ5 基于PCFG的解析器是否能在真实世界、非受控的自然语言输入上实现高覆盖度与可接受的准确率？

主要发现

• 显式/隐式语法方法使测试句的覆盖度提升至96%，相比纯PCFG，解析准确率略有提升。
• 经过四轮迭代，增强统一约束的语法在训练数据上保持82%的覆盖度，在测试数据上达到96%的覆盖度。
• 显式语法的总召回率从初始的74.30%提升至训练后的86.30%；显式/隐式语法的总召回率从70.07%提升至82.51%。
• 显式语法的总精确率从80.52%略微下降至85.64%，但尽管覆盖度提升，仍保持较高水平。
• 显式语法的平均解析树交叉数从16.07降至12.73，表明所选解析的结构歧义性降低。
• 统一约束的整合减少了虚假歧义，并在基线PCFG的基础上带来了微小但可测量的解析准确率提升。