[论文解读] Few-shot learning for medical text: A systematic review

Yao Ge, Yuting Guo+3 more|arXiv (Cornell University)|Apr 21, 2022

Topic Modeling被引用 6

一句话总结

本篇系统综述分析了医学文本 NLP 中的少样本学习（FSL）方法，共识别出31项研究（主要为2020年后发表），聚焦于命名实体识别和文本分类等低资源任务。研究发现注意力机制、原型网络和元学习是主流方法，但受限于缺乏标准化的生物医学数据集以及在临床文本上表现欠佳，进展有限。

ABSTRACT

Objective: Few-shot learning (FSL) methods require small numbers of labeled instances for training. As many medical topics have limited annotated textual data in practical settings, FSL-based natural language processing (NLP) methods hold substantial promise. We aimed to conduct a systematic review to explore the state of FSL methods for medical NLP. Materials and Methods: We searched for articles published between January 2016 and August 2021 using PubMed/Medline, Embase, ACL Anthology, and IEEE Xplore Digital Library. To identify the latest relevant methods, we also searched other sources such as preprint servers (eg., medRxiv) via Google Scholar. We included all articles that involved FSL and any type of medical text. We abstracted articles based on data source(s), aim(s), training set size(s), primary method(s)/approach(es), and evaluation method(s). Results: 31 studies met our inclusion criteria-all published after 2018; 22 (71%) since 2020. Concept extraction/named entity recognition was the most frequently addressed task (13/31; 42%), followed by text classification (10/31; 32%). Twenty-one (68%) studies reconstructed existing datasets to create few-shot scenarios synthetically, and MIMIC-III was the most frequently used dataset (7/31; 23%). Common methods included FSL with attention mechanisms (12/31; 39%), prototypical networks (8/31; 26%), and meta-learning (6/31; 19%). Discussion: Despite the potential for FSL in biomedical NLP, progress has been limited compared to domain-independent FSL. This may be due to the paucity of standardized, public datasets, and the relative underperformance of FSL methods on biomedical topics. Creation and release of specialized datasets for biomedical FSL may aid method development by enabling comparative analyses.

研究动机与目标

• 评估少样本学习（FSL）方法在医学文本处理中应用的当前状态。
• 识别生物医学 NLP 研究中使用最广泛的任务、数据集和 FSL 方法。
• 评估 FSL 在低资源医学文本场景中的性能与局限性。
• 突出标准化、公开可用的生物医学 FSL 数据集方面的缺口。
• 建议创建专用数据集以加速医学 NLP 中的方法开发。

提出的方法

• 自2016年1月至2021年8月，系统检索了 PubMed/Medline、Embase、ACL Anthology、IEEE Xplore 及预印本服务器（如 medRxiv）等数据库。
• 纳入将 FSL 应用于任何类型医学文本的研究，要求至少包含一个标注数据有限的少样本学习场景。
• 提取关键信息，包括数据来源、研究目标、训练集规模、主要 FSL 方法（如注意力机制、原型网络）及评估协议。
• 综合分析方法论趋势、数据集使用情况以及命名实体识别和文本分类等任务中的性能表现。
• 根据方法描述，将 FSL 方法分类为元学习、注意力机制和原型网络等类别。
• 评估研究中使用真实数据或通过数据重构生成合成少样本数据的程度，结果显示68%的研究通过重构现有数据集来生成合成少样本场景。

实验结果

研究问题

• RQ1 在医学文本的少样本学习中，最普遍的任务是什么？其随时间如何演变？
• RQ2 在生物医学 NLP 中，最常应用的少样本学习方法有哪些？其相对频率如何？
• RQ3 研究通过何种方式生成少样本场景——使用真实数据还是合成数据重构？
• RQ4 在 FSL 研究中，最常使用的医学文本数据集有哪些？其特征是什么？
• RQ5 哪些主要挑战阻碍了 FSL 在医学文本应用中的性能表现与实际采纳？

主要发现

• 在纳入的31项研究中，71%发表于2020年或之后，表明医学文本 FSL 领域近期兴趣显著上升。
• 命名实体识别（42%）和文本分类（32%）是最常见的两项任务，反映出临床 NLP 的核心需求。
• MIMIC-III 是使用最频繁的数据集（占23%的研究），其次是其他临床数据仓库和合成数据。
• 注意力机制（39%）和原型网络（26%）是最广泛采用的 FSL 方法，表明其在少样本设置中表现优异。
• 68%的研究通过重构现有数据集来生成合成少样本场景，表明对模拟低资源条件的依赖。
• 尽管已有进展，FSL 方法在生物医学文本上的表现仍逊于通用领域应用，凸显了对领域特定数据集和基准的迫切需求。