[论文解读] BioNerFlair: biomedical named entity recognition using flair embedding and sequence tagger

Harsh Patel|arXiv (Cornell University)|Nov 3, 2020

Topic Modeling参考文献 41被引用 10

一句话总结

BioNerFlair 提出了一种基于 Flair 嵌入与 GloVe 结合的生物医学命名实体识别模型，并采用双向 LSTM-CRF 序列标注器。该模型在八个基准数据集中的五个上实现了最先进（SOTA）的 F1 分数，包括在 BC2GM 上达到 90.17，在 BC4CHEMD 上达到 94.03，表明上下文感知嵌入能显著提升性能，且无需使用计算成本高昂的 Transformer 模型。

ABSTRACT

Motivation: The proliferation of Biomedical research articles has made the task of information retrieval more important than ever. Scientists and Researchers are having difficulty in finding articles that contain information relevant to them. Proper extraction of biomedical entities like Disease, Drug/chem, Species, Gene/protein, can considerably improve the filtering of articles resulting in better extraction of relevant information. Performance on BioNer benchmarks has progressively improved because of progression in transformers-based models like BERT, XLNet, OpenAI, GPT2, etc. These models give excellent results; however, they are computationally expensive and we can achieve better scores for domain-specific tasks using other contextual string-based models and LSTM-CRF based sequence tagger. Results: We introduce BioNerFlair, a method to train models for biomedical named entity recognition using Flair plus GloVe embeddings and Bidirectional LSTM-CRF based sequence tagger. With almost the same generic architecture widely used for named entity recognition, BioNerFlair outperforms previous state-of-the-art models. I performed experiments on 8 benchmarks datasets for biomedical named entity recognition. Compared to current state-of-the-art models, BioNerFlair achieves the best F1-score of 90.17 beyond 84.72 on the BioCreative II gene mention (BC2GM) corpus, best F1-score of 94.03 beyond 92.36 on the BioCreative IV chemical and drug (BC4CHEMD) corpus, best F1-score of 88.73 beyond 78.58 on the JNLPBA corpus, best F1-score of 91.1 beyond 89.71 on the NCBI disease corpus, best F1-score of 85.48 beyond 78.98 on the Species-800 corpus, while near best results was observed on BC5CDR-chem, BC3CDR-disease, and LINNAEUS corpus.

研究动机与目标

• 通过高效、非 Transformer 模型提升生物医学命名实体识别（BioNER）性能。
• 解决生物医学文本中多义性和上下文相关词义带来的挑战。
• 在超越现有最先进模型的同时降低计算成本。
• 评估 Flair 嵌入在特定领域 NER 任务中的有效性。
• 为 BioNER 提供一种轻量化但强大的替代方案，以替代大型 Transformer 模型。

提出的方法

• 模型在输入层使用堆叠的词嵌入，结合预训练的 GloVe 和 Flair 上下文嵌入。
• Flair 嵌入在生物医学语料上进行训练，能够捕捉词语的上下文敏感表示。
• 双向 LSTM 网络用于处理上下文嵌入，以学习序列依赖关系。
• 条件随机场（CRF）层用于建模相邻标记之间的标签转移，提升序列标注的准确性。
• 模型在八个公开的 BioNER 基准数据集上进行端到端微调。
• 实验比较了不同嵌入组合的性能表现，结果显示在 GPU 显存受限条件下，GloVe + Flair 组合效果最佳。

实验结果

研究问题

• RQ1 Flair 嵌入与 GloVe 及 BiLSTM-CRF 结合是否能在生物医学 NER 中超越现有最先进模型？
• RQ2 使用如 Flair 这类上下文嵌入如何提升特定领域 NER 任务的性能？
• RQ3 非 Transformer 架构能否在显著降低计算成本的前提下实现具有竞争力的性能？
• RQ4 嵌入组合（如 GloVe + Flair）对多样化生物医学语料中 NER 性能的影响如何？
• RQ5 BioNerFlair 在多种实体类型（如基因、疾病、药物）上于不同基准数据集中的表现如何？

主要发现

• 在 BC2GM（基因/蛋白质）语料上，BioNerFlair 达到最高的 F1 分数 90.17，超越此前的 SOTA 水平 84.72。
• 在 BC4CHEMD（化学物/药物）数据集上，BioNerFlair 的 F1 分数达到 94.03，超过此前最佳结果 92.36。
• 在 JNLPBA 语料上，BioNerFlair 的 F1 分数为 88.73，显著优于此前的 SOTA 水平 78.58。
• 在 NCBI Disease 语料上，BioNerFlair 的 F1 分数达到 91.11，优于此前最佳结果 89.71。
• 在 Species-800 语料上，BioNerFlair 的 F1 分数为 85.48，优于此前的 SOTA 水平 74.98。
• 在 LINNAEUS 和 BC5CDR 数据集上，BioNerFlair 达到接近最先进水平的性能，表明其在多种实体类型上具有出色的泛化能力。