[論文レビュー] BioNerFlair: biomedical named entity recognition using flair embedding and sequence tagger

Harsh Patel|arXiv (Cornell University)|Nov 3, 2020

Topic Modeling参考文献 41被引用数 10

ひとこと要約

BioNerFlair は、Flair埋め込みとGloVe、および双方向LSTM-CRFシーケンスタグガーを組み合わせたバイオメディカル固有名称抽出（BioNER）モデルを提案する。8つのベンチマークデータセットのうち5つで最先端のF1スコアを達成し、BC2GMで90.17、BC4CHEMDで94.03を記録した。これは、コンテキストに依存する埋め込みが、計算コストの高いトランスフォーマーを用いなくても性能を著しく向上させることを示している。

ABSTRACT

Motivation: The proliferation of Biomedical research articles has made the task of information retrieval more important than ever. Scientists and Researchers are having difficulty in finding articles that contain information relevant to them. Proper extraction of biomedical entities like Disease, Drug/chem, Species, Gene/protein, can considerably improve the filtering of articles resulting in better extraction of relevant information. Performance on BioNer benchmarks has progressively improved because of progression in transformers-based models like BERT, XLNet, OpenAI, GPT2, etc. These models give excellent results; however, they are computationally expensive and we can achieve better scores for domain-specific tasks using other contextual string-based models and LSTM-CRF based sequence tagger. Results: We introduce BioNerFlair, a method to train models for biomedical named entity recognition using Flair plus GloVe embeddings and Bidirectional LSTM-CRF based sequence tagger. With almost the same generic architecture widely used for named entity recognition, BioNerFlair outperforms previous state-of-the-art models. I performed experiments on 8 benchmarks datasets for biomedical named entity recognition. Compared to current state-of-the-art models, BioNerFlair achieves the best F1-score of 90.17 beyond 84.72 on the BioCreative II gene mention (BC2GM) corpus, best F1-score of 94.03 beyond 92.36 on the BioCreative IV chemical and drug (BC4CHEMD) corpus, best F1-score of 88.73 beyond 78.58 on the JNLPBA corpus, best F1-score of 91.1 beyond 89.71 on the NCBI disease corpus, best F1-score of 85.48 beyond 78.98 on the Species-800 corpus, while near best results was observed on BC5CDR-chem, BC3CDR-disease, and LINNAEUS corpus.

研究の動機と目的

• 効率的でトランスフォーマーを含まないモデルを用いて、バイオメディカル固有名称抽出（BioNER）の性能を向上させること。
• バイオメディカルテキストにおける多義語や文脈依存的な語の意味の課題に対処すること。
• 既存の最先端モデルを上回りながらも、計算コストを低減すること。
• Flair埋め込みがドメイン特化型NERタスクにおいて効果的であるかを評価すること。
• バイオメディカルNERにおける大規模なトランスフォーマー基盤モデルの軽量で強力な代替手段を提供すること。

提案手法

• モデルは、事前学習済みのGloVeとFlairのコンテキストに依存する埋め込みを入力層でスタックして組み合わせた単語埋め込みを使用する。
• Flair埋め込みはバイオメディカルコーパス上で学習され、語の文脈に応じた表現を捉えている。
• 双方向LSTMネットワークがコンテキストに依存する埋め込みを処理し、系列的依存関係を学習する。
• 条件付き確率場（CRF）層が隣接するトークン間のラベル遷移をモデル化し、シーケンスラベリングの精度を向上させる。
• モデルは8つの公開バイオメディカルNERベンチマークデータセット上でエンドツーエンドで微調整される。
• 実験では、異なる埋め込み組み合わせの性能を比較し、GloVe + FlairがGPUメモリ制約下でも最適な結果を示した。

実験結果

リサーチクエスチョン

• RQ1 Flair埋め込みとGloVe、およびBiLSTM-CRFを組み合わせたモデルが、既存の最先端モデルを上回る性能を発揮できるか？
• RQ2 Flairのようなコンテキストに依存する埋め込みを用いることで、ドメイン特化型NERタスクでの性能がどのように向上するか？
• RQ3 トランスフォーマーを含まないアーキテクチャが、著しく低い計算コストで競争力のある結果を達成できるか？
• RQ4 埋め込みの組み合わせ（例：GloVe + Flair）が、多様なバイオメディカルコーパスにおけるNER性能に与える影響は何か？
• RQ5 BioNerFlairは、多様なベンチマークでさまざまなエンティティタイプ（例：遺伝子、疾患、薬剤）に対してどのように性能を発揮するか？

主な発見

• BC2GM（遺伝子／タンパク質）コーパスでは、F1スコア90.17を記録し、以前の最先端（SOTA）84.72を上回った。
• BC4CHEMD（化学物質／薬剤）データセットでは、F1スコア94.03を達成し、以前の最高記録92.36を上回った。
• JNLPBAコーパスでは、F1スコア88.73を記録し、以前のSOTA（78.58）を著しく上回った。
• NCBI Diseaseコーパスでは、F1スコア91.11を達成し、以前の最高記録89.71を上回った。
• Species-800コーパスでは、F1スコア85.48を記録し、以前のSOTA（74.98）を上回った。
• LINNAEUSおよびBC5CDRデータセットでは、ほぼ最先端の性能を達成しており、エンティティタイプにわたる強力な一般化能力を示している。