[论文解读] Low-Resource Name Tagging Learned with Weakly Labeled Data

Yixin Cao, Zikun Hu+3 more|arXiv (Cornell University)|Aug 26, 2019

Topic Modeling参考文献 40被引用 4

一句话总结

该论文提出了一种用于低资源命名实体识别的双模块神经模型，利用弱监督标签数据（WL）进行训练，无需高质量标注或外部知识。通过将弱监督句子划分为噪声和高质量两部分，模型采用分类头在噪声数据上进行高效预训练，同时在高质量数据上使用基于Partial-CRF的序列标注头并引入非实体采样策略，实现最优标注性能。在低资源语言和细粒度食品领域中，相比基线模型，F1值平均分别提升6%和7.8%。

ABSTRACT

Name tagging in low-resource languages or domains suffers from inadequate training data. Existing work heavily relies on additional information, while leaving those noisy annotations unexplored that extensively exist on the web. In this paper, we propose a novel neural model for name tagging solely based on weakly labeled (WL) data, so that it can be applied in any low-resource settings. To take the best advantage of all WL sentences, we split them into high-quality and noisy portions for two modules, respectively: (1) a classification module focusing on the large portion of noisy data can efficiently and robustly pretrain the tag classifier by capturing textual context semantics; and (2) a costly sequence labeling module focusing on high-quality data utilizes Partial-CRFs with non-entity sampling to achieve global optimum. Two modules are combined via shared parameters. Extensive experiments involving five low-resource languages and fine-grained food domain demonstrate our superior performance (6% and 7.8% F1 gains on average) as well as efficiency.

研究动机与目标

• 解决低资源命名实体识别中训练数据稀缺或不可用的挑战。
• 利用来自维基百科锚点等网络来源的大量弱监督数据（部分标注），这些数据常因噪声和不完整而被丢弃。
• 开发一种统一的、端到端可训练的模型，有效利用噪声和高质量弱监督数据，且不依赖外部知识或特征工程。
• 仅使用弱监督信号，在低资源语言和低资源领域（如食品特定实体）中实现最先进性能。
• 通过共享参数解耦不同数据质量的训练目标，确保计算效率与鲁棒性。

提出的方法

• 从维基百科锚点自动构建弱监督（WL）数据，其中仅部分实体被标注，其余未标注。
• 应用轻量级评分策略，基于标注置信度和提及覆盖度，将WL句子分类为高质量与噪声子集。
• 在噪声子集上训练分类模块，仅使用标注词进行预训练，以聚焦上下文语义，避免未标注词带来的偏差。
• 在高质量数据上使用Partial-CRF与非实体采样策略训练序列标注模块，以建模所有可能的标签序列并实现全局最优。
• 通过共享参数将两个模块结合，实现在分类与序列建模之间知识迁移，同时保持高效性。
• 引入一种非实体采样策略，基于语言学特征（如词频、与实体的距离）为未标注词分配O（非实体）标签，提升模型鲁棒性与性能。

实验结果

研究问题

• RQ1 仅使用弱监督数据，神经模型能否在低资源设置下实现强大的命名实体识别性能，而无需高质量标注或外部知识？
• RQ2 如何在统一的训练框架中有效分离并利用噪声和不完整的弱监督句子以提升性能？
• RQ3 在高质量数据上使用计算成本较高的序列标注模块与在噪声数据上使用轻量级分类模块之间，最优平衡点是什么？
• RQ4 Partial-CRF中非实体采样策略如何影响模型性能？哪些特征最能有效引导该采样过程？
• RQ5 分类与序列标注模块之间的共享参数在多大程度上能提升低资源命名实体识别中的泛化能力与效率？

主要发现

• 所提模型在五种低资源语言中相比基线模型平均F1提升6%，证明其在多样化语言环境下的强大泛化能力。
• 在包含10种实体类型的细粒度食品领域中，模型相比最先进方法平均F1提升7.8%，在所有实体类型上均优于所有基线模型。
• 模型保持高效与鲁棒，当高质量数据阈值（$\theta_n$）设为0.1时，训练时间从90分钟降至20分钟，同时性能保持稳定。
• 非实体采样比率为$\alpha = 0.9$时F1最高，表明将更多未标注词建模为O可提升召回率而不损失精确率。
• ‘是否位于实体内’特征（$f_2$）对非实体采样性能贡献最大，与词频（$f_3$）结合可进一步提升结果；而与其它特征结合时，距离特征（$f_1$）会降低性能。
• 当$\theta_n = 0$时，模型退化为仅序列模型，性能劣于$\theta_n = 0.1$，证明在噪声数据上通过分类模块进行预训练具有显著优势。