[论文解读] Improving Multi-Word Entity Recognition for Biomedical Texts

Hamada Nayel, H. L. Shashirekha+2 more|arXiv (Cornell University)|Aug 15, 2019

Biomedical Text Mining and Ontologies参考文献 31被引用 10

一句话总结

本文提出 FROBES，一种用于生物医学命名实体识别（BioNER）的增强型 IOBES 标注方案，提升了生物医学文本中多词实体的检测性能。在 i2b2/VA 2010 和 JNLPBA 2004 数据集上，基于 BiLSTM 的模型显示，FROBES 在长于两个词的实体上表现优于标准 IOBES 和基线模型，且通过集成投票进一步提升了性能。

ABSTRACT

Biomedical Named Entity Recognition (BioNER) is a crucial step for analyzing Biomedical texts, which aims at extracting biomedical named entities from a given text. Different supervised machine learning algorithms have been applied for BioNER by various researchers. The main requirement of these approaches is an annotated dataset used for learning the parameters of machine learning algorithms. Segment Representation (SR) models comprise of different tag sets used for representing the annotated data, such as IOB2, IOE2 and IOBES. In this paper, we propose an extension of IOBES model to improve the performance of BioNER. The proposed SR model, FROBES, improves the representation of multi-word entities. We used Bidirectional Long Short-Term Memory (BiLSTM) network; an instance of Recurrent Neural Networks (RNN), to design a baseline system for BioNER and evaluated the new SR model on two datasets, i2b2/VA 2010 challenge dataset and JNLPBA 2004 shared task dataset. The proposed SR model outperforms other models for multi-word entities with length greater than two. Further, the outputs of different SR models have been combined using majority voting ensemble method which outperforms the baseline models performance.

研究动机与目标

• 为解决在临床和研究文本中识别多词生物医学实体（尤其是较长实体）的挑战。
• 通过扩展 IOBES 标注方案，改进序列标注中多词实体的表征。
• 在标准生物医学 NER 基准数据集上评估所提出 FROBES 模型的有效性。
• 通过多数投票的模型集成技术，提升整体 BioNER 性能。

提出的方法

• 提出 FROBES，一种改进的 IOBES 标注方案，能更好地捕捉多词生物医学实体的边界和内部结构。
• 设计基于 BiLSTM 的神经网络模型，作为 BioNER 中序列标注的基线系统。
• 在两个标准生物医学 NER 数据集（i2b2/VA 2010 和 JNLPBA 2004）上训练并评估该模型。
• 通过组合多个 SR 模型（包括 IOB2、IOE2、IOBES 和 FROBES）的预测结果，采用多数投票集成方法，提升鲁棒性与性能。
• 使用标准评估指标（如精确率、召回率和 F1 分数）比较不同标注方案下的模型性能。

实验结果

研究问题

• RQ1 与标准 IOBES 相比，增强型 IOBES 标注方案是否能提升多词生物医学实体的识别性能？
• RQ2 FROBES 标注模型在生物医学文本中对长多词实体（长度 > 2）的表现如何？
• RQ3 通过多数投票集成多个序列表示模型的输出，是否能提升整体 BioNER 性能？
• RQ4 所提出的 FROBES 模型是否在标准生物医学 NER 基准上优于基线模型？

主要发现

• FROBES 在识别长度大于两个词的多词实体方面，显著优于标准 IOBES 和其他 SR 模型。
• 基于 BiLSTM 的模型结合 FROBES 标注，在 i2b2/VA 2010 和 JNLPBA 2004 数据集上的 F1 分数均高于基线模型。
• 不同 SR 模型的多数投票集成进一步提升了性能，超越了所有单个模型，包括 FROBES 基线。
• 性能提升在长实体上最为显著，证实了 FROBES 在捕捉复杂实体边界方面的有效性。