[論文レビュー] Biomedical named entity recognition using BERT in the machine reading comprehension framework

Cong Sun, Zhihao Yang+4 more|arXiv (Cornell University)|Sep 3, 2020

Topic Modeling参考文献 34被引用数 8

ひとこと要約

本稿では、生物医学命名句抽出（BioNER）のための新しいBioBERTベースの機械的読解（MRC）フレームワークを提案する。序列ラベル付けを質問への回答タスクに再定式化することで、意味的文脈と事前知識をより効果的に活用する。この手法は、BC5CDR-Chemで94.19%、BC4CHEMDで92.92%を記録するSOTAのF1スコアを達成し、BioBERT-SoftmaxおよびBERT-MRCを上回る。特に、エンティティ境界検出の向上とラベル不一致の低減により、性能が向上した。

ABSTRACT

Recognition of biomedical entities from literature is a challenging research focus, which is the foundation for extracting a large amount of biomedical knowledge existing in unstructured texts into structured formats. Using the sequence labeling framework to implement biomedical named entity recognition (BioNER) is currently a conventional method. This method, however, often cannot take full advantage of the semantic information in the dataset, and the performance is not always satisfactory. In this work, instead of treating the BioNER task as a sequence labeling problem, we formulate it as a machine reading comprehension (MRC) problem. This formulation can introduce more prior knowledge utilizing well-designed queries, and no longer need decoding processes such as conditional random fields (CRF). We conduct experiments on six BioNER datasets, and the experimental results demonstrate the effectiveness of our method. Our method achieves state-of-the-art (SOTA) performance on the BC4CHEMD, BC5CDR-Chem, BC5CDR-Disease, NCBI-Disease, BC2GM and JNLPBA datasets, achieving F1-scores of 92.92%, 94.19%, 87.83%, 90.04%, 85.48% and 78.93%, respectively.

研究の動機と目的

• 序列ラベル付けの限界、特に意味的文脈や事前知識を十分に活用できない点を是正する。
• 適切に設計されたクエリを用いて、BioNERを機械的読解（MRC）タスクに再定式化することで、性能を向上させる。
• CRFや条件付きランダムフィールドの後処理を不要にするために、エンドツーエンドのMRC学習を活用する。
• 複数の標準データセットを用いて、多様な生物医学的エンティティタイプにおけるMRCベースのBioNERの有効性を評価する。
• MRCフレームワークが従来の序列ラベル付けよりも構文的・意味的関係をよりよく捉えられることを示す。

提案手法

• BioNERタスクを、各エンティティタイプが自然言語クエリとして表現される機械的読解（MRC）問題に再定式化する。
• 各入力文に対して、特定のエンティティタイプに対応するスパンを同定するようモデルに促すクエリを構築する（例：「ナトリウムやRAのような化学物質はどれですか？）。
• スパン予測ヘッドを用いて、BioBERTをMRCタスクにファインチューニングし、答えスパンの開始位置と終了位置を予測する。
• 損失関数は開始位置損失と終了位置損失を等価に組み合わせる（すなわち、(Loss_start + Loss_end)/2）ことで、一般用途のMRCモデルで用いられる複雑なスパン損失を回避する。
• トレーニングデータからの既知のエンティティ例を用いてクエリを設計し、事前知識を注入し、一般化性能を向上させる。
• CRFや条件付きランダムフィールドの後処理を一切用いずに、エンドツーエンドのMRC学習により訓練する。これにより推論が簡素化される。

実験結果

リサーチクエスチョン

• RQ1 BioNERを機械的読解タスクに再定式化することで、従来の序列ラベル付けよりも性能が向上するか？
• RQ2 ドメイン特化クエリの使用が、事前知識を注入することでモデル性能をどのように向上させるか？
• RQ3 MRCフレームワークは、従来の序列ラベル付けよりも生物医学テキスト内の構文的・意味的関係をよりよく捉えられるか？
• RQ4 複数のデータセットにおいて、BioBERT-MRCはBioBERT-SoftmaxおよびBERT-MRCと比較して、正確度、再現度、F1スコアで優れているか？
• RQ5 MRCフレームワークは、BioNERにおけるラベル不一致を低減し、境界検出の正確性を向上させられるか？

主な発見

• BioBERT-MRCは、BC5CDR-Chemで94.19%、BC4CHEMDで92.92%を記録する6つの生物医学的NERデータセットでSOTAのF1スコアを達成した。
• BioBERT-Softmaxよりも正確度が顕著に向上し、特に誤検出（偽陽性）の低減によりF1スコアが向上した。
• 事例研究では、BioBERT-MRCが誤検出（偽陰性）と誤検出（偽陽性）を是正し、境界検出を改善し、ラベル不一致を低減していることが示された。
• BERT-MRC（L）を上回ったことから、平坦なエンティティ抽出タスクでは、BERT-MRCに組み込まれたスパン損失部は不要であり、むしろ有害である可能性があることが示された。
• MRCフレームワークにより、フレーズ、セグメント、エンティティの一貫性の処理が改善されており、構文的・意味的学習がより効果的に行われていることが裏付けられた。
• CRFの後処理が存在しないにもかかわらず性能に悪影響を及げず、エンドツーエンドMRC学習の有効性が確認された。