[论文解读] Neural Morphology Dataset and Models for Multiple Languages, from the Large to the Endangered

Mika Hämäläinen, Niko Partanen+2 more|arXiv (Cornell University)|May 26, 2021

Natural Language Processing Techniques被引用 5

一句话总结

本文提出了一套大规模神经形态学数据集及针对22种形态丰富的语言（包括17种濒危语言）的模型，通过从现有的有限状态转换器（FST）自动提取训练数据。神经模型采用与FST相同的形态标签体系进行训练，从而可无缝作为备用系统集成，即使在歧义性和复杂形态学挑战下，对未登录词的准确率仍超过80%。

ABSTRACT

We train neural models for morphological analysis, generation and lemmatization for morphologically rich languages. We present a method for automatically extracting substantially large amount of training data from FSTs for 22 languages, out of which 17 are endangered. The neural models follow the same tagset as the FSTs in order to make it possible to use them as fallback systems together with the FSTs. The source code, models and datasets have been released on Zenodo.

研究动机与目标

• 开发可用于规则驱动的有限状态转换器（FST）在形态分析、生成和词形还原任务中的神经形态学模型，作为备用系统。
• 为多种语言（包括濒危的乌拉尔语系及其他形态丰富的语言）创建大规模、公开可用的形态学任务训练数据集。
• 通过使用与现有FST相同的形态标签体系，确保神经模型与规则系统之间的兼容性，支持在自然语言处理应用中联合部署。
• 通过结合神经模型的泛化能力与基于规则的FST的精确性，提升形态系统的覆盖范围。
• 通过提供可访问、可互操作且高精度的模型，支持低资源和濒危语言环境下的真实世界自然语言处理应用。

提出的方法

• 通过将正则表达式转换器与现有FST组合，自动生成每个词基的所有可能屈折形式，从而自动提取大规模训练数据。
• 采用GiellaLT FST基础设施中使用的相同形态标签体系，以确保神经模型与基于规则的系统之间的兼容性与互操作性。
• 使用提取的数据集，为形态分析、生成和词形还原任务分别训练独立的神经序列到序列模型。
• 仅在未登录词上评估模型，以测试其泛化能力，采用严格的一最佳输出匹配方式与标准测试集进行对比。
• 实现N-best解码以探索歧义处理，认识到单个输入可能存在多个正确输出。
• 由于计算不可行性和复杂性，训练中排除了附着词、复合词和派生形态，建议未来工作针对这些情况进行专门处理。

实验结果

研究问题

• RQ1 在FST提取的数据上训练的神经模型是否能在保持与现有基于规则的FST兼容的前提下，对未登录词实现高准确率？
• RQ2 神经模型在低资源和濒危语言中对形态复杂且罕见的形式的泛化能力如何？
• RQ3 在歧义输入上评估时，神经模型的性能与FST相比如何？N-best解码是否能在不牺牲精度的前提下提升覆盖率？
• RQ4 在神经形态学训练中包含附着词、复合词和派生形态的实际限制是什么？如何解决这些问题？
• RQ5 神经模型能否在不替换核心基于规则基础设施的前提下，有效用作真实世界NLP系统中的备用方案？

主要发现

• 神经模型在多种语言上对未登录词的准确率超过80%，表明其在形态范式复杂的情况下仍具备强大的泛化能力。
• 形态分析任务最为困难，需要更长的训练时间，且性能低于生成和词形还原任务。
• 由于采用一最佳输出匹配，评估结果略为保守，因为许多测试输入具有歧义性，存在多个正确输出。
• 模型已能生成N-best候选结果，表明歧义通常被正确捕捉，未来工作可通过利用这些输出提升召回率。
• 数据集和模型已通过Zenodo公开发布，包含完整的训练、验证和测试划分，支持可复现性及下游NLP任务的再利用。
• 尽管由于计算和实现限制而排除了附着词、复合词和派生形态，该方法仍为濒危语言和低资源语言的形态NLP提供了可扩展的基础。