[论文解读] A probabilistic top-down parser for minimalist grammars

Thomas Mainguy|arXiv (Cornell University)|Oct 9, 2010

Algorithms and Data Compression参考文献 5被引用 8

一句话总结

本文通过将最小语法（MGs）转换为线性上下文无关重写系统（LCFRS），提出了一种概率性自顶向下解析器，实现了具有预测能力的增量式、自左向右解析。该方法利用上下文树加权（CTW）算法对概率规则进行条件化处理，提升了解析效率与准确性，尤其在处理歧义或花园路径句时表现更优。

ABSTRACT

This paper describes a probabilistic top-down parser for minimalist grammars. Top-down parsers have the great advantage of having a certain predictive power during the parsing, which takes place in a left-to-right reading of the sentence. Such parsers have already been well-implemented and studied in the case of Context-Free Grammars, which are already top-down, but these are difficult to adapt to Minimalist Grammars, which generate sentences bottom-up. I propose here a way of rewriting Minimalist Grammars as Linear Context-Free Rewriting Systems, allowing to easily create a top-down parser. This rewriting allows also to put a probabilistic field on these grammars, which can be used to accelerate the parser. Finally, I propose a method of refining the probabilistic field by using algorithms used in data compression.

研究动机与目标

• 实现对最小语法（MGs）的自顶向下、增量式解析，因其推导本质为自底向上。
• 克服传统自顶向下解析器在处理MGs中典型移位操作时的局限性。
• 通过将MGs重表述为LCFRS导出的推导树，引入MGs的概率框架。
• 通过基于学习规则概率的束搜索（beam search）提升解析效率。
• 利用上下文树加权（CTW）算法改进概率估计，以提升解析规则的泛化能力。

提出的方法

• 通过建模推导树而非派生树，将最小语法转换为线性上下文无关重写系统（LCFRS）。
• 使用类别、选择符、许可者与许可者来表示句法特征，遵循MG形式化规范，并使用句点符号（dot notation）追踪推导进度。
• 定义用于合并与移位操作的推理规则，以自顶向下、自左向右的方式生成推导树。
• 使用Krichevski-Trofimov或零冗余估计器对推导树路径分配初始概率。
• 基于解析过程中先前应用规则的序列，利用上下文树加权（CTW）算法对规则概率进行条件化处理。
• 在解析器中实现束搜索，利用条件化后的概率剪枝低概率推导路径，以加速解析。

实验结果

研究问题

• RQ1 最小语法（MGs）能否被有效转换为适合自顶向下、增量式解析的形式？
• RQ2 如何为MGs中的推导树分配概率规则权重，以支持高效解析？
• RQ3 基于解析上下文对规则概率进行条件化，在多大程度上能提升解析的准确率与效率？
• RQ4 上下文树加权（CTW）算法能否被有效适配于自顶向下MG解析器中的规则概率条件化？
• RQ5 使用基于概率剪枝的束搜索，如何影响解析器处理歧义句或花园路径句的能力？

主要发现

• 将MGs转换为LCFRS，使得自顶向下、增量式解析策略得以实现，其过程与人类句子处理方式相吻合。
• 概率框架支持束搜索，通过剪枝低可能性推导路径显著加速解析。
• 利用CTW算法对规则概率进行条件化，可更准确估计规则可能性，尤其在数据稀疏场景下表现更优。
• 该方法通过上下文敏感的规则条件化，成功建模句法依赖关系，捕捉对解析至关重要的支配头信息。
• 零冗余估计器在处理罕见或未观测到的规则序列时表现更优，尤其当仅存在一种可能的规则类型时。
• 通过利用上下文规则概率，解析器在处理歧义句或花园路径句时表现出更强的鲁棒性。