[论文解读] Named Entity Recognition in the Style of Object Detection

Bing Li|arXiv (Cornell University)|Jan 26, 2021

Topic Modeling参考文献 28被引用 6

一句话总结

该论文提出了一种受目标检测启发的两阶段命名实体识别（NER）框架，采用区域建议网络（RPN）生成候选实体跨度，随后通过分类头同时预测实体置信度和类型。该方法在嵌套NER基准测试中取得SOTA结果（ACE2005上F1为85.6，Genia上为76.8），优于许多复杂模型，同时在平面NER任务中也保持了优异性能。

ABSTRACT

In this work, we propose a two-stage method for named entity recognition (NER), especially for nested NER. We borrowed the idea from the two-stage Object Detection in computer vision and the way how they construct the loss function. First, a region proposal network generates region candidates and then a second-stage model discriminates and classifies the entity and makes the final prediction. We also designed a special loss function for the second-stage training that predicts the entityness and entity type at the same time. The model is built on top of pretrained BERT encoders, and we tried both BERT base and BERT large models. For experiments, we first applied it to flat NER tasks such as CoNLL2003 and OntoNotes 5.0 and got comparable results with traditional NER models using sequence labeling methodology. We then tested the model on the nested named entity recognition task ACE2005 and Genia, and got F1 score of 85.6$\%$ and 76.8$\%$ respectively. In terms of the second-stage training, we found that adding extra randomly selected regions plays an important role in improving the precision. We also did error profiling to better evaluate the performance of the model in different circumstances for potential improvements in the future.

研究动机与目标

• 探索计算机视觉中的两阶段目标检测范式是否可有效适配至命名实体识别，特别是嵌套实体场景。
• 通过将区域建议与实体分类及类型预测解耦，提升嵌套NER任务中的精确率与召回率。
• 评估模型在平面与嵌套NER基准上的性能，并与传统序列标注方法进行比较。
• 分析错误类型，理解模型在不同失败场景下的优势与局限。

提出的方法

• 采用两阶段架构：首先，区域建议网络（RPN）在BERT嵌入基础上使用全连接层预测候选实体跨度的起始与结束位置。
• RPN对起始与结束标记使用交叉熵损失进行训练，并对子词标记应用掩码，以聚焦于词级起始位置。
• 第二阶段，分类头处理每个候选跨度的池化表示，同时预测实体置信度（是否为有效实体）与实体类型。
• 提出一种新型损失函数，联合优化实体置信度与类型分类，提升预测结果的可解释性。
• 训练过程中引入随机负样本以提升精确率，同时使用最大池化对跨度内特征进行聚合以供分类。
• 模型在BERT-base与BERT-large上进行微调，并通过消融实验评估各组件的贡献。

实验结果

研究问题

• RQ1 与标准序列标注方法相比，两阶段目标检测式框架是否能提升嵌套命名实体识别的性能？
• RQ2 联合预测实体置信度与实体类型如何影响NER模型的性能与错误模式？
• RQ3 最大池化、随机负样本采样以及起始/结束位置预测等架构组件对最终F1分数有何影响？
• RQ4 与标准BERT序列标注模型相比，该模型在边界错误、类型错误及过触发/欠触发错误方面的错误构成有何差异？

主要发现

• 该模型在ACE2005嵌套NER基准上达到85.6%的F1分数，优于许多更复杂的模型。
• 在Genia数据集上，模型达到76.8%的F1分数，表明其在重叠实体复杂的嵌套NER任务中仍具备强大性能。
• 消融实验表明，移除最大池化导致F1下降超过1.0%，凸显其在特征聚合中的关键作用。
• 随机负样本采样提升了精确率，移除后F1下降0.7%，凸显其在减少假阳性中的重要性。
• 与标准BERT序列标注模型相比，该模型显著减少了过触发错误，表明其实体置信度预测能力更强。
• 错误分析显示，两类模型中类型错误均为主要错误类型，但两阶段模型在假阳性与边界错误控制方面表现更优。