[论文解读] Integrating Dictionary Feature into A Deep Learning Model for Disease Named Entity Recognition

Hamada Nayel, Shashrekha H. L|arXiv (Cornell University)|Nov 4, 2019

Topic Modeling被引用 5

一句话总结

该论文提出了一种用于疾病命名实体识别（Disease-NER）的深度学习模型，该模型整合了预训练词嵌入、字符级嵌入、词典信息以及具有全局评分的CRF。该模型在NCBI和BC5CDR数据集上实现了最先进性能，F1得分分别为85.40%和79.62%，通过利用结构化的语言特征和序列标注优化，优于先前的方法。

ABSTRACT

In recent years, Deep Learning (DL) models are becoming important due to their demonstrated success at overcoming complex learning problems. DL models have been applied effectively for different Natural Language Processing (NLP) tasks such as part-of-Speech (PoS) tagging and Machine Translation (MT). Disease Named Entity Recognition (Disease-NER) is a crucial task which aims at extracting disease Named Entities (NEs) from text. In this paper, a DL model for Disease-NER using dictionary information is proposed and evaluated on National Center for Biotechnology Information (NCBI) disease corpus and BC5CDR dataset. Word embeddings trained over general domain texts as well as biomedical texts have been used to represent input to the proposed model. This study also compares two different Segment Representation (SR) schemes, namely IOB2 and IOBES for Disease-NER. The results illustrate that using dictionary information, pre-trained word embeddings, character embeddings and CRF with global score improves the performance of Disease-NER system.

研究动机与目标

• 通过将外部词典知识整合到深度学习框架中，提升疾病命名实体识别（Disease-NER）的性能。
• 评估字符级嵌入和预训练词嵌入对Disease-NER性能的影响。
• 比较IOB2和IOBES序列标注方案在生物医学命名实体识别背景下的有效性。
• 评估CRF使用全局评分与局部评分在序列解码中对Disease-NER的贡献。
• 证明结合多种信号源——词汇、拼写和基于词典的——可提升复杂生物医学文本中的识别准确率。

提出的方法

• 该模型采用双向LSTM架构处理词级和字符级嵌入，以捕捉形态和句法模式。
• 使用在通用和生物医学语料上预训练的词嵌入作为输入表示，提升对随机初始化嵌入的语义泛化能力。
• 通过独立的双向LSTM学习字符级嵌入，捕捉对罕见或未登录词（OOV）疾病术语至关重要的子词信息。
• 将词典信息作为特征向量整合，以指导模型识别已知疾病实体，减少同义词和缩写带来的歧义。
• 应用具有全局评分解码的条件随机场（CRF），以建模标签依赖关系，提升序列级预测准确率。
• 评估两种序列标注方案——IOB2和IOBES——以确定其对实体边界检测和整体F1得分的影响。

实验结果

研究问题

• RQ1 将词典信息整合到深度学习模型中，对Disease-NER性能有何影响？
• RQ2 与词级嵌入相比，字符级嵌入在识别多词和罕见疾病实体方面有何相对贡献？
• RQ3 在生物医学领域，使用预训练词嵌入是否优于随机初始化嵌入？
• RQ4 在Disease-NER任务的序列标注中，CRF使用全局评分是否优于局部评分？
• RQ5 在NCBI和BC5CDR数据集上，IOB2和IOBES序列标注方案中哪一种表现更优？

主要发现

• 整合词典信息显著提升了Disease-NER性能，在NCBI数据集上达到最佳F1得分85.40%。
• 字符嵌入对性能有显著贡献，相比无字符嵌入的模型，F1得分提升超过10%。
• 预训练词嵌入优于随机初始化嵌入，证明了在大规模生物医学和通用文本上进行预训练的价值。
• 使用全局评分解码的CRF优于局部评分，尤其在与其他特征结合时表现更优。
• IOBES方案在BC5CDR数据集上的F1测量值比IOB2高出1.13个百分点，表明其对实体边界的处理更优。
• 所提出的模型在NCBI（F1为85.40%）和BC5CDR（F1为79.62%）数据集上均实现了最先进性能，超越了先前的CNN-based和集成模型方法。