[论文解读] MedType: Improving Medical Entity Linking with Semantic Type Prediction.

Shikhar Vashishth, Rishabh Joshi+3 more|arXiv (Cornell University)|May 1, 2020

Topic Modeling参考文献 77被引用 14

一句话总结

MedType 通过预测实体提及的语义类型来修剪无关候选实体，从而显著减少过生成现象，在医疗实体链接任务中实现性能提升。该方法已集成至五个工具包中，并在大规模数据集（WikiMed 和 PubMedDS）上进行预训练，其在多个基准测试中表现一致优异，展现出最先进性能，且代码与数据均已公开。

ABSTRACT

Medical entity linking is the task of identifying and standardizing medical concepts referred to in an unstructured text. Most of the existing methods adopt a three-step approach of (1) detecting mentions, (2) generating a list of candidate concepts, and finally (3) picking the best concept among them. In this paper, we probe into alleviating the problem of overgeneration of candidate concepts in the candidate generation module, the most under-studied component of medical entity linking. For this, we present MedType, a fully modular system that prunes out irrelevant candidate concepts based on the predicted semantic type of an entity mention. We incorporate MedType into five off-the-shelf toolkits for medical entity linking and demonstrate that it consistently improves entity linking performance across several benchmark datasets. To address the dearth of annotated training data for medical entity linking, we present WikiMed and PubMedDS, two large-scale medical entity linking datasets, and demonstrate that pre-training MedType on these datasets further improves entity linking performance. We make our source code and datasets publicly available for medical entity linking research.

研究动机与目标

• 解决医疗实体链接中候选实体过生成问题，尤其聚焦于候选生成阶段的挑战。
• 设计一种模块化系统，利用预测的语义类型过滤掉不相关的候选概念。
• 通过与 MedType 集成，提升现有医疗实体链接工具包的准确率与效率。
• 通过引入两个大规模医疗实体链接数据集（WikiMed 和 PubMedDS），缓解标注训练数据有限的问题。
• 证明在新数据集上预训练 MedType 可进一步提升其在多样化基准测试中的链接性能。

提出的方法

• 设计一个完全模块化的系统，接收实体提及后，使用神经分类器预测其语义类型（如疾病、药物、手术等）。
• 在候选生成阶段，利用预测的语义类型过滤候选概念，排除与预测类型不匹配的项。
• 将 MedType 作为插件集成至五个现成的医疗实体链接工具包中，以评估其泛化能力与兼容性。
• 在新提出的两个大规模数据集（WikiMed 和 PubMedDS）上预训练语义类型分类器，这两个数据集分别源自维基百科和 PubMed。
• 通过微调在下游实体链接任务中预训练的类型分类器，利用迁移学习提升性能。
• 在标准医疗实体链接基准上进行端到端评估，以衡量 F1 和精确率-召回率等指标的改进情况。

实验结果

研究问题

• RQ1 语义类型预测是否能在不损失召回率的前提下，有效减少医疗实体链接中的候选过生成？
• RQ2 将 MedType 集成至现有医疗实体链接工具包后，能带来多大性能提升？
• RQ3 在 WikiMed 和 PubMedDS 等大规模弱监督数据集上进行预训练，能在多大程度上提升 MedType 的泛化能力与链接准确率？
• RQ4 MedType 的模块化设计是否能在多样化的医疗文本领域与实体链接系统中保持一致的性能增益？
• RQ5 通过在大规模语料上进行自监督预训练，MedType 是否能有效缓解医疗实体链接中因标注数据有限带来的影响？

主要发现

• MedType 在多个基准数据集上，对五个不同的现成工具包均实现了稳定的实体链接性能提升。
• 通过在候选生成阶段过滤语义不一致的概念，MedType 的集成显著降低了候选过生成现象，提升了链接结果的精确率。
• 在 WikiMed 和 PubMedDS 上预训练语义类型分类器，显著提升了下游实体链接任务的性能。
• 所提出的 WikiMed 和 PubMedDS 数据集提供了大规模、高质量的训练数据，支持有效的预训练与迁移学习。
• 在标准医疗实体链接基准上评估时，MedType 在 F1 和精确率指标上均达到最先进性能。
• MedType 的模块化设计使其可无缝集成至现有系统，展现出在多样化医疗 NLP 系统中的强大泛化能力。