[论文解读] Some Advances in Transformation-Based Part of Speech Tagging

Eric Brill|ArXiv.org|Jun 2, 1994

Natural Language Processing Techniques参考文献 14被引用 279

一句话总结

本文将基于转换的、规则驱动的词性标注器扩展至提升未知词的性能，整合词汇关系，并支持k-best标注。通过错误驱动学习，仅使用250条规则即实现已知词96.5%的准确率，k-best标注下达到99.1%的准确率——性能与随机模型相当或更优，同时以极小且可解释的规则集编码语言知识，而非庞大的概率表。

ABSTRACT

Most recent research in trainable part of speech taggers has explored stochastic tagging. While these taggers obtain high accuracy, linguistic information is captured indirectly, typically in tens of thousands of lexical and contextual probabilities. In [Brill92], a trainable rule-based tagger was described that obtained performance comparable to that of stochastic taggers, but captured relevant linguistic information in a small number of simple non-stochastic rules. In this paper, we describe a number of extensions to this rule-based tagger. First, we describe a method for expressing lexical relations in tagging that are not captured by stochastic taggers. Next, we show a rule-based approach to tagging unknown words. Finally, we show how the tagger can be extended into a k-best tagger, where multiple tags can be assigned to words in some cases of uncertainty.

研究动机与目标

• 开发一种基于规则的词性标注器，使其比随机模型更直接地捕捉语言知识。
• 将基于转换的学习方法扩展至建模标准随机标注器无法表达的词汇关系。
• 在无需预设规则或语料特定特征的前提下，实现对未知词的准确标注。
• 支持每个词多个标注（k-best标注），以在不确定性下提升准确率。
• 证明基于规则的系统可在使用远少参数的情况下，实现与或超越随机标注器的准确率。

提出的方法

• 标注器采用基于转换的错误驱动学习，通过在训练语料上迭代选择最能提升标注准确率的转换规则来学习规则。
• 转换规则按固定顺序应用，并根据上下文（如邻近词的标注或形态特征）修改标注。
• 针对未知词标注，系统学习基于大写、词尾及词形特征推断词性的规则，无需预设特征。
• 通过基于共享句法或语义特性的规则建立词汇关联，扩展了标准上下文规则的范围。
• 对于k-best标注，转换规则被修改为向词添加替代标注而非替换原有标注，从而在不确定性下提升覆盖率。
• 学习过程通过自定义评分函数，在准确率与每词平均标注数之间实现权衡优化。

实验结果

研究问题

• RQ1 基于规则的标注系统能否有效建模随机标注器无法表达的词汇关系？
• RQ2 基于转换的标注器能否在不使用预设形态或语料特定特征的前提下，对未知词实现高准确率？
• RQ3 能否在基于规则的系统中有效实现k-best标注，以提升准确率同时最小化每词标注数？
• RQ4 基于规则的标注器在准确率与参数效率方面与随机模型相比如何？
• RQ5 错误驱动的规则学习能否比概率模型更直接地捕捉语言知识？

主要发现

• 在开放词汇假设下，基于规则的标注器在Penn Treebank语料库上实现了96.5%的整体标注准确率，与最先进随机模型持平。
• 仅使用250条规则，k-best标注即实现99.1%的准确率，同时每词平均标注数保持在1.5，显著低于基线方法。
• k-best扩展使准确率从96.5%提升至99.1%，每词平均标注数仅增加50%，表明准确率提升效率极高。
• 该标注器在实现99.0%准确率时仅需1.58条标注/词，优于需2.28条标注/词的随机基线，证明其标注效率更优。
• 仅用148条规则即可捕捉未知词标注的语言信息，远少于随机模型的1,000多个参数，展现出极高的简洁性与可解释性。
• 系统成功建模了词汇关系与形态模式，无需预设特征，完全依赖数据驱动的规则归纳。