[論文レビュー] Few-shot learning for medical text: A systematic review

Yao Ge, Yuting Guo+3 more|arXiv (Cornell University)|Apr 21, 2022

Topic Modeling被引用数 6

ひとこと要約

本システマティックレビューでは、医療テキストNLPにおける少数ショット学習（FSL）手法を分析し、主に2020年以降に発表された31件の研究（名前付きエンティティ認識やテキスト分類などの低リソースタスクに焦点を当てたもの）を対象とした。アテンション機構、プロトタイプネットワーク、メタラーニングが主なアプローチであることが明らかになったが、標準化された生物医学的データセットの欠如と、臨床テキストにおける性能の最適でない点が、進展を妨げていることが判明した。

ABSTRACT

Objective: Few-shot learning (FSL) methods require small numbers of labeled instances for training. As many medical topics have limited annotated textual data in practical settings, FSL-based natural language processing (NLP) methods hold substantial promise. We aimed to conduct a systematic review to explore the state of FSL methods for medical NLP. Materials and Methods: We searched for articles published between January 2016 and August 2021 using PubMed/Medline, Embase, ACL Anthology, and IEEE Xplore Digital Library. To identify the latest relevant methods, we also searched other sources such as preprint servers (eg., medRxiv) via Google Scholar. We included all articles that involved FSL and any type of medical text. We abstracted articles based on data source(s), aim(s), training set size(s), primary method(s)/approach(es), and evaluation method(s). Results: 31 studies met our inclusion criteria-all published after 2018; 22 (71%) since 2020. Concept extraction/named entity recognition was the most frequently addressed task (13/31; 42%), followed by text classification (10/31; 32%). Twenty-one (68%) studies reconstructed existing datasets to create few-shot scenarios synthetically, and MIMIC-III was the most frequently used dataset (7/31; 23%). Common methods included FSL with attention mechanisms (12/31; 39%), prototypical networks (8/31; 26%), and meta-learning (6/31; 19%). Discussion: Despite the potential for FSL in biomedical NLP, progress has been limited compared to domain-independent FSL. This may be due to the paucity of standardized, public datasets, and the relative underperformance of FSL methods on biomedical topics. Creation and release of specialized datasets for biomedical FSL may aid method development by enabling comparative analyses.

研究の動機と目的

• 少々ショット学習（FSL）手法が医療テキスト処理に応用されている現状を評価すること。
• 生物医学的NLP研究で最も一般的に使用されているタスク、データセット、FSLアプローチを特定すること。
• 低リソース医療テキストシナリオにおけるFSLのパフォーマンスと制限要因を評価すること。
• 生物医学的FSLに向けた標準化された公開データセットの欠落を浮き彫りにすること。
• 医療NLPにおける手法開発を促進するため、専用データセットの作成を提言すること。

提案手法

• 2016年1月から2021年8月までに、PubMed/Medline、Embase、ACL Anthology、IEEE Xplore、およびプレプリントサーバー（例：medRxiv）を対象としたシステマティックな文献検索を実施した。
• 少なくとも1つの少数ショット学習シナリオ（限られたラベル付きデータを伴う）を含む、あらゆる種類の医療テキストにFSLを適用した研究を対象とした。
• データソース、研究目的、トレーニングセットサイズ、主なFSL手法（例：アテンション、プロトタイプネットワーク）および評価プロトコルを含む、主要情報を要約した。
• 名前付きエンティティ認識やテキスト分類などのタスクにおける、手法論的トレンド、データセット使用状況、パフォーマンスの統合的分析を実施した。
• 手法論的記述に基づき、FSLアプローチをメタラーニング、アテンション機構、プロトタイプネットワークなどのカテゴリに分類した。
• 研究が実データまたは合成データによる少数ショットシナリオをどれほど使用しているかを評価した。その結果、68％の研究が評価のため、既存データセットを再構成して合成データを生成していた。

実験結果

リサーチクエスチョン

• RQ1 医療テキストにおける少数ショット学習の主なタスクは何か。また、時間の経過とともにどのように変化してきたか。
• RQ2 生物医学的NLPで最も一般的に適用されている少数ショット学習手法は何か。それらの相対頻度はどのようになっているか。
• RQ3 研究は少数ショットシナリオを、実データから作成しているのか、それとも合成データの再構築によって作成しているのか。
• RQ4 FSL研究で最も頻繁に使用されている医療テキストデータセットは何か。それらの特徴は何か。
• RQ5 医療テキスト応用におけるFSLのパフォーマンスと採用を妨げる主な課題は何か。

主な発見

• 31件の研究のうち71％が2020年以降に発表されており、医療テキストにおけるFSLへの関心の急増を示している。
• 名前付きエンティティ認識（42％）とテキスト分類（32％）が最も一般的なタスクであり、臨床NLPにおける根本的ニーズを反映している。
• MIMIC-IIIが最も頻繁に使用されたデータセット（研究の23％）であり、その後に他の臨床リポジトリと合成データが続く。
• アテンション機構（39％）とプロトタイプネットワーク（26％）が最も広く採用されており、少数ショット環境下での優れたパフォーマンスを示唆している。
• 68％の研究が、既存データセットを再構成して合成少数ショットシナリオを生成しており、模擬的な低リソース条件に依存していることが示された。
• 進展はあるものの、一般ドメインの応用と比較して、FSL手法は生物医学的テキストでは性能を発揮していない。これは、ドメイン特化型のデータセットとベンチマークの必要性を強調している。