[论文解读] Unsupervised Learning of Morphology without Morphemes

Sylvain Neuvel, Sean A. Fulop|arXiv (Cornell University)|May 29, 2002

Natural Language Processing Techniques参考文献 4被引用 6

一句话总结

本文提出全词形态学模型（Whole Word Morphologizer, WWM），一种无监督计算模型，可直接从词性标注词典中学习形态关系，而无需识别词素。采用全词形态学框架，WWM 初始生成新词形的准确率达 80%，经后期词汇阻断处理后提升至 92%，表明形态学可被习得并生成，而无需依赖传统的词素分析方法。

ABSTRACT

The first morphological learner based upon the theory of Whole Word Morphology Ford et al. (1997) is outlined, and preliminary evaluation results are presented. The program, Whole Word Morphologizer, takes a POS-tagged lexicon as input, induces morphological relationships without attempting to discover or identify morphemes, and is then able to generate new words beyond the learning sample. The accuracy (precision) of the generated new words is as high as 80% using the pure Whole Word theory, and 92% after a post-hoc adjustment is added to the routine.

研究动机与目标

• 开发一种计算模型，直接从数据中学习形态学，而无需依赖词素识别。
• 证明基于单词的形态学可支持新词形的习得与生成。
• 提供一种替代传统基于词素的计算形态学方法，适用于多种语言类型。
• 证明无需先验语言理论或标注的词素边界，无监督学习形态结构是可行的。
• 实现一个系统，仅基于词典中学习到的模式，即可生成新的有效词形。

提出的方法

• 该模型以词性标注词典作为输入，将每个词视为完整的词汇条目，不将其分解为词素。
• 通过逐字母比较词形（从左到右或从右到左），识别形态关系，以检测一致的模式。
• 通过检测词典中词形变化的规律性，推导出形态策略（如复数、动词变位）。
• 通过后期词汇阻断机制，防止生成非词，优先选择现有词典条目而非有产形态。
• 每个词被分配一个词范编号，仅当不存在具有相同词范和类别的现有词时，才添加新词形。
• 该算法当前设计可处理前缀和后缀形态，未来计划扩展以支持中缀和模板形态。

实验结果

研究问题

• RQ1 计算模型能否在不识别或分割词素的情况下学习形态关系？
• RQ2 能否仅使用词性标注词典中的全词模式，生成新颖且有效的词形？
• RQ3 基于全词形态学的模型能否在不依赖传统形态学理论的情况下，实现高准确率的词形生成？
• RQ4 词汇阻断在减少形态生成过程中的误报方面有多有效？
• RQ5 该方法在具有不同形态类型的语言之间具有多大程度的泛化能力？

主要发现

• 全词形态学模型在仅使用纯全词形态学理论的情况下，生成新词形的准确率达到 80%。
• 应用后期词汇阻断机制后，系统的生成准确率提升至 92%。
• 该模型成功学习并应用形态策略，无需词素分割或人工规则输入。
• 该系统不仅学习形态模式，还能识别词之间的词范关系，并为其分配共享的词范编号。
• 该方法表明，形态知识可被习得并用于生成，而无需构建词素的中间语言分析。
• 初步结果表明，通过改进对齐技术，该模型可扩展以处理更复杂的形态现象，如中缀化和模板形态。