[论文解读] A Robust Parsing Algorithm For Link Grammars

Dennis Grinberg, John Lafferty+1 more|ArXiv.org|Aug 2, 1995

Natural Language Processing Techniques被引用 86

一句话总结

本文提出了一种用于链语法的鲁棒解析算法，通过在原始动态规划方法中引入空链接（null links）来处理不合法或格式错误的句子。通过三次动态规划遍历最小化空链接的数量，该算法能够高效地从嘈杂的口语英语中提取句法结构，实现立方时间复杂度，并成功解析了Switchboard语料库的大部分句子，尽管其语法不规范程度很高。

ABSTRACT

In this paper we present a robust parsing algorithm based on the link grammar formalism for parsing natural languages. Our algorithm is a natural extension of the original dynamic programming recognition algorithm which recursively counts the number of linkages between two words in the input sentence. The modified algorithm uses the notion of a null link in order to allow a connection between any pair of adjacent words, regardless of their dictionary definitions. The algorithm proceeds by making three dynamic programming passes. In the first pass, the input is parsed using the original algorithm which enforces the constraints on links to ensure grammaticality. In the second pass, the total cost of each substring of words is computed, where cost is determined by the number of null links necessary to parse the substring. The final pass counts the total number of parses with minimal cost. All of the original pruning techniques have natural counterparts in the robust algorithm. When used together with memoization, these techniques enable the algorithm to run efficiently with cubic worst-case complexity. We have implemented these ideas and tested them by parsing the Switchboard corpus of conversational English. This corpus is comprised of approximately three million words of text, corresponding to more than 150 hours of transcribed speech collected from telephone conversations restricted to 70 different topics. Although only a small fraction of the sentences in this corpus are "grammatical" by standard criteria, the robust link grammar parser is able to extract relevant structure for a large portion of the sentences. We present the results of our experiments using this system, including the analyses of selected and random sentences from the corpus.

研究动机与目标

• 开发一种高效且鲁棒的自然语言处理解析算法，能够在不修改底层语法规则的前提下处理语法不规范和噪声较大的输入。
• 实现对真实世界口语数据（如电话通话记录）的解析，这些数据中仅有一小部分句子符合标准语法规范。
• 在扩展链语法形式化体系以支持部分解析和近似解析的同时，保持原始链语法形式化体系的效率和剪枝技术。
• 证明仅通过最小修改（即仅添加空链接）即可实现纯粹句法的鲁棒解析，而无需引入语义或领域特定知识。

提出的方法

• 通过引入空链接扩展原始链语法的动态规划算法，使任意相邻词语之间均可建立连接，而无需依赖词典定义。
• 执行三次动态规划遍历：(1) 标准解析，强制执行语法规则；(2) 计算所有子串的最小代价（即空链接数量）；(3) 统计最小代价的解析数量。
• 使用记忆化和剪枝技术，将输入长度为 n 的时间复杂度保持在 O(n³) 的立方级别。
• 对未知词使用默认的并列集（disjunct set），通过上下文推断其词性及句法功能。
• 为每种解析分配非负代价，完全符合语法规则的解析代价为零，优先输出代价最小的解析。
• 通过允许空链接补偿缺失或错误的词语，支持部分解析，使即使在语法不规范的输入中也能进行结构分析。

实验结果

研究问题

• RQ1 纯粹句法的解析方法能否有效从语法不规范、噪声较大的口语文本中提取有意义的句法结构？
• RQ2 如何在鲁棒解析扩展中保持原始链语法解析器的效率和剪枝机制？
• RQ3 空链接与代价最小化在多大程度上能够实现对高错误率真实口语语言的准确解析？
• RQ4 仅通过在语法规则中增加空链接这一最小修改，能否在不引入语义或领域特定知识的前提下实现鲁棒性？

主要发现

• 该鲁棒链语法解析器尽管仅有一小部分句子符合标准语法规范，仍成功从Switchboard语料库中提取了大量句子的句法结构。
• 在结合记忆化和剪枝技术后，该算法实现了 O(n³) 的立方时间复杂度，能够高效解析长句。
• 实验中，解析器成功为语料库中10个随机选取的句子生成了有效解析，包括含有未知词和语法错误结构的句子，且仅使用了最少的空链接。
• 系统能正确将未知词如 'toronto' 和 'kmarkt' 识别为形容词，基于其上下文，证明了默认并列集机制的有效性。
• 解析器无法推断缺失的词语（如 'would to be an emergency' 中的 'have'），也无法建模话语中的重复或中断，表明其在处理句法空缺方面存在局限。
• 尽管存在局限，该解析器仍展现出实际应用价值，已部署于万维网（http://www.cs.cmu.edu/afs/cs/project/link/www/robust.html）供公众实验使用。