[论文解读] Biomedical and Clinical English Model Packages in the Stanza Python NLP Library

Yuhao Zhang, Yuhui Zhang+3 more|arXiv (Cornell University)|Jul 29, 2020

Topic Modeling参考文献 34被引用 16

一句话总结

本论文为 Stanza Python 库引入了生物医学与临床英语 NLP 模型包，利用在多样化公开且大规模的生物医学与临床文本数据集上训练的完全神经网络架构。这些模型在句法分析与命名实体识别（NER）任务中达到最先进性能，匹配或超越以往结果，同时通过与 Stanza 原生 Python 接口的无缝集成，实现极高的处理速度——尤其在 GPU 加速下表现更佳。

ABSTRACT

We introduce biomedical and clinical English model packages for the Stanza Python NLP library. These packages offer accurate syntactic analysis and named entity recognition capabilities for biomedical and clinical text, by combining Stanza's fully neural architecture with a wide variety of open datasets as well as large-scale unsupervised biomedical and clinical text data. We show via extensive experiments that our packages achieve syntactic analysis and named entity recognition performance that is on par with or surpasses state-of-the-art results. We further show that these models do not compromise speed compared to existing toolkits when GPU acceleration is available, and are made easy to download and use with Stanza's Python interface. A demonstration of our packages is available at: http://stanza.run/bio.

研究动机与目标

• 解决现有通用 NLP 库中缺乏针对生物医学与临床文本优化的高性能、易用 NLP 工具的问题。
• 通过为 Stanza 的神经 NLP 流水线扩展针对生物医学与临床英语文本的领域专用模型，提升句法分析与命名实体识别的准确性。
• 在使用 GPU 加速时保持高处理速度，确保在实际应用中的实用性。
• 为研究人员与开发者提供统一、易于使用的 Python 接口，以访问并部署最先进的生物医学与临床 NLP 模型。
• 通过提供专用模型（包括一份针对放射科报告的模型），同时支持研究与临床文本处理。

提出的方法

• 基于生物医学与临床文本，使用通用依存结构 v2 形式训练完全神经网络的句法分析流水线（分词、词性标注、词形还原、依存句法分析）。
• 利用公开可用的语料库（如 CRAFT 和 GENIA），并从 MIMIC-III 临床数据库中构建银标准训练数据，用于临床句法建模。
• 使用上下文表示法训练 8 个生物医学 NER 模型与 2 个临床 NER 模型，其中包含一个专为放射科报告设计的新模型。
• 将模型集成至 Stanza 现有的 Python NLP 框架中，采用统一接口，支持原始输入与预分词输入。
• 通过轻量级循环神经网络对字符序列进行联合建模，实现分词与句子分割。
• 应用双仿射打分机制，提升通用（UPOS）与语言特定（XPOS）词性标注之间的一致性。

实验结果

研究问题

• RQ1 完全神经网络的 NLP 流水线是否能在生物医学与临床文本的句法分析与命名实体识别任务中实现最先进性能？
• RQ2 与 CoreNLP、scispaCy 和 BioBERT 等现有工具包相比，Stanza 的生物医学与临床模型在准确率与处理速度方面表现如何？
• RQ3 与仅使用 CPU 的执行方式相比，GPU 加速在多大程度上提升了这些模型的推理速度？
• RQ4 这些模型是否能在无需复杂配置的情况下，通过统一的 Python 接口实现高准确率与便捷部署？
• RQ5 包含专用模型（如针对放射科报告的模型）是否能显著提升临床文本上的 NER 性能？

主要发现

• Stanza 中的生物医学与临床模型包在句法分析与 NER 任务上的表现与最先进结果持平或超越，且在基准数据集上表现优异。
• 在 CRAFT 生物医学 NER 测试集上，模型相比基线模型 F1 值提升 2.91 个百分点；在临床 JNLPBA 数据集上，F1 值提升 1.94 个百分点。
• 在 GPU 加速下，Stanza 的句法分析性能与 scispaCy 相当，其 NER 模型速度显著快于 BioBERT，CPU 上快 14.8 倍，GPU 上快 0.95 倍（相较 scispaCy）。
• 即使在使用 GPU 时，模型仍保持高速性能，句法分析相比仅使用 CPU 的推理速度提升 1.42 倍，NER 任务相比 scispaCy 在 GPU 上快 0.95 倍。
• 系统通过 tokenize_pretokenized 标志支持原始文本与预分词输入，可无缝集成外部分词流水线。
• 模型可通过简洁的 Python 接口获取，使用如 stanza.download() 和 Pipeline() 等命令，实现快速部署与使用。