[论文解读] A Probabilistic Model of Compound Nouns

Mark Lauer, Mark Dras|ArXiv.org|Sep 6, 1994

Natural Language Processing Techniques参考文献 6被引用 6

一句话总结

本文提出了一种基于语料库派生名词亲和力的复合名词句法分析概率模型，通过语义词类缓解数据稀疏性问题，并在概率框架中显式建模词义歧义。该方法在测试集上实现了77%的解析准确率，展现出对复杂真实语言结构的强大处理能力。

ABSTRACT

Compound nouns such as example noun compound are becoming more common in natural language and pose a number of difficult problems for NLP systems, notably increasing the complexity of parsing. In this paper we develop a probabilistic model for syntactically analysing such compounds. The model predicts compound noun structures based on knowledge of affinities between nouns, which can be acquired from a corpus. Problems inherent in this corpus-based approach are addressed: data sparseness is overcome by the use of semantically motivated word classes and sense ambiguity is explicitly handled in the model. An implementation based on this model is described in Lauer (1994) and correctly parses 77% of the test set.

研究动机与目标

• 为应对NLP系统中由于句法复杂性增加而带来的复合名词解析挑战。
• 开发一种概率模型，利用从语料库中获得的名词亲和力知识来预测复合名词的结构。
• 通过使用语义驱动的词类来缓解基于语料库学习中的数据稀疏性问题。
• 在概率框架中显式处理名词复合词中的词义歧义。
• 在真实世界复合名词测试集上评估模型性能。

提出的方法

• 该模型采用概率框架，基于已学习的名词之间亲和力来预测复合名词的句法结构。
• 名词亲和力从语料库中获取，表示一个名词与另一个名词组合形成复合词的可能性。
• 引入语义词类以通过将意义或句法行为相似的名词分组来减少数据稀疏性。
• 通过在结构预测过程中考虑名词的多种可能含义，显式建模词义歧义。
• 模型采用最大似然估计方法，从训练数据中学习参数。
• 基于该模型的实现将在复合名词测试集上进行评估，性能通过解析准确率衡量。

实验结果

研究问题

• RQ1 如何利用语料库数据，有效预测复合名词的句法结构？
• RQ2 语义词类在多大程度上能减少名词亲和力建模中的数据稀疏性？
• RQ3 显式建模词义歧义在多大程度上能提高复合名词的解析准确率？
• RQ4 基于语料库的概率模型在真实世界复合名词实例上的可实现解析准确率是多少？
• RQ5 该模型能否在保持高性能的同时泛化于多种多样的复合名词类型？

主要发现

• 该模型在测试集上实现了77%的解析准确率，表明其在复合名词分析方面表现强劲。
• 使用语义词类显著减少了数据稀疏性，提升了在有限训练数据下的参数估计效果。
• 显式建模词义歧义通过考虑构成名词的多种解释，带来了更准确的预测结果。
• 基于语料库的方法成功捕捉了反映真实复合结构句法模式的有意义名词亲和力。
• 该实现展示了在各种复合名词类型（包括非组合性意义的复合词）上的鲁棒性。
• 结果证实，结合语义正则化的概率建模在NLP系统中的复合名词解析中是有效的。