[论文解读] Integrating Multiple Knowledge Sources to Disambiguate Word Sense: An Exemplar-Based Approach

Hwee Tou Ng, Hian Beng Lee|ArXiv.org|Jun 29, 1996

Natural Language Processing Techniques被引用 78

一句话总结

本文提出 Lexas，一种基于实例的词义消歧系统，通过整合多种知识源——词性标签、词形变化、周围词汇集合、局部搭配以及动词-宾语句法关系——以提升准确率。在标准数据集和 WordNet 的大规模人工标注词义语料库上进行评估，Lexas 的准确率高于以往方法，尤其在高度歧义词汇上表现更优，这是首次对同类系统进行大规模评估，且性能优于最常见词义基线方法。

ABSTRACT

In this paper, we present a new approach for word sense disambiguation (WSD) using an exemplar-based learning algorithm. This approach integrates a diverse set of knowledge sources to disambiguate word sense, including part of speech of neighboring words, morphological form, the unordered set of surrounding words, local collocations, and verb-object syntactic relation. We tested our WSD program, named {\sc Lexas}, on both a common data set used in previous work, as well as on a large sense-tagged corpus that we separately constructed. {\sc Lexas} achieves a higher accuracy on the common data set, and performs better than the most frequent heuristic on the highly ambiguous words in the large corpus tagged with the refined senses of {\sc WordNet}.

研究动机与目标

• 开发一种稳健的词义消歧（WSD）系统，有效整合多种语言知识源。
• 评估该 WSD 系统在大规模人工标注语料库上的可扩展性与性能，超越标准基准测试。
• 通过利用句法、形态学和上下文特征，提升高度歧义词汇的准确率。
• 证明基于实例的学习方法在真实世界、大规模 WSD 任务中可优于传统启发式基线方法。
• 为未来 WSD 研究提供公开可获取的大规模人工标注词义语料库。

提出的方法

• 该系统采用基于实例的学习方法，每个词义由训练数据中提取的原型实例表示。
• 针对每个内容词，使用词性（POS）邻近词、词形变化、周围词汇的无序集合、局部搭配以及动词-宾语句法关系等特征，训练独立的基于实例的分类器。
• 在分配词义前，系统首先使用 WordNet 的形态分析器将词语归一化为其词根形式。
• 系统采用 PEBL（基于原型的实例学习系统）框架进行分类，该框架基于符号特征的加权最近邻方法。
• 训练语料库由已预先标注正确词义的句子组成，支持监督学习。
• 系统通过加权特征距离度量，计算输入词语境与实例之间的相似度，以选择最合适的词义。

实验结果

研究问题

• RQ1 基于实例的学习方法能否有效整合多种语言知识源用于词义消歧？
• RQ2 在大规模语料库中，基于实例的系统在高度歧义词汇上的性能与最常见词义启发式基线相比如何？
• RQ3 该系统能否在标准基准数据集上超越以往方法的准确率？
• RQ4 将 WSD 系统扩展至大规模人工标注语料库是否可行？预期性能如何？
• RQ5 句法与形态学特征的整合是否显著提升消歧准确率？

主要发现

• 在标准基准数据集上，Lexas 的平均准确率达到 87.4%，超过 Bruce 和 Wiebe 报告的 80% 准确率。
• 在包含 12,000 个词例的 WordNet 大规模人工标注语料库上，Lexas 表现优于最常见词义基线策略。
• 该系统在高度歧义词汇上表现尤为出色，尤其是在使用 WordNet 提供的精细词义区分时。
• 这是首次已知对 WSD 系统在如此大规模人工标注语料库上的评估，为可扩展性与性能设定了新基准。
• 整合多种知识源——包括句法关系、搭配短语和形态形式——显著提升了消歧准确率。
• 基于实例的方法在捕捉细微上下文模式方面表现有效，尤其在复杂或歧义性较高的语言环境中。