[論文レビュー] Knowledge Guided Named Entity Recognition for BioMedical Text

Pratyay Banerjee, Kuntal Kumar Pal+2 more|arXiv (Cornell University)|Nov 10, 2019

Topic Modeling参考文献 36被引用数 4

ひとこと要約

この論文は、生物医学的名前付きエンティティ認識（NER）を、知識を支援するマルチアンサー質問応答（KGQA）タスクに再定式化し、エンティティタイプ、定義、例をコンテキストとして用いることで、エンティティ検出を向上させている。18個の生物医学的コーパスからなる大規模で統合されたデータセットを用いて訓練し、再コンテキスト化を施したBERT-CNNモデルを採用することで、18個の公開データセットのうち12個で最先端のF1スコアを達成し、従来のNERで微調整されたBERT-largeなどの強力なベースラインを上回っている。

ABSTRACT

In this work, we formulate the NER task as a multi-answer knowledge guided QA task (KGQA) which helps to predict entities only by assigning B, I and O tags without associating entity types with the tags. We provide different knowledge contexts, such as, entity types, questions, definitions and examples along with the text and train on a combined dataset of 18 biomedical corpora. This formulation (a) enables systems to jointly learn NER specific features from varied NER datasets, (b) can use knowledge-text attention to identify words having higher similarity to provided knowledge, improving performance, (c) reduces system confusion by reducing the prediction classes to B, I, O only, and (d) makes detection of nested entities easier. We perform extensive experiments of this KGQA formulation on 18 biomedical NER datasets, and through experiments we note that knowledge helps in achieving better performance. Our problem formulation is able to achieve state-of-the-art results in 12 datasets.

研究の動機と目的

• 従来のマルチクラス分類を超えたアプローチにより、生物医学的NERにおけるラベル付けミス、クラスの混同、データ不足の課題に対処すること。
• 予測をB、I、Oタグへの単一タスクに簡素化することで、複数エンティティタイプを同時に予測する必要を排除し、システムの混同を低減すること。
• 外部知識（定義、例、エンティティタイプなど）をコンテキストプロンプトとして統合することで、ネストされたエンティティやレアエンティティの検出を向上させること。
• 18個の多様な生物医学的NERデータセットを統一的かつ知識拡張された学習フレームワークで統合的学習可能にすること。
• 異なる生物医学的ドメインやエンティティタイプにおける転移学習性能とモデルの汎化能力を評価すること。

提案手法

• NERをマルチアンサー知識支援質問応答タスクに定式化し、各入力はテキストコンテキストと知識プロンプト（例：'病気とは何か？'、'病気：健康に影響を及ぼす医学的状態である。'）のペアで構成される。
• 局所的な畳み込み特徴を用いてトークン表現を精緻化する再コンテキスト化レイヤーであるBERT-CNNを導入し、エンティティ境界の特定を向上させる。
• 18個の生物医学的コーパスから得た398,495件の訓練データ、148,166件の検証データ、502,306件のテストデータを含む統合データセットを用い、各サンプルに知識コンテキストを付加している。
• バックボーンモデルとしてBERT-baseを採用し、BIOタグ付けを伴うKGQAに定式化されたNERタスクに対してエンドツーエンドで微調整している。
• 知識テキストアテンション機構を適用し、入力シーケンス内の各トークンに対して知識コンテキストの関連性を動的に重み付けしている。
• ソースドメインで学習し、ターゲットドメインで評価することで、ドメイン間一般化性能を評価するための転移学習を実施している。

実験結果

リサーチクエスチョン

• RQ1 NERを知識支援QAタスクに再定式化することで、生物医学的エンティティ認識におけるラベルミスや混同を軽減できるか？
• RQ2 定義、例、エンティティタイプに関する質問といった多様な知識タイプの統合が、NER性能にどのように影響するか？
• RQ3 異なるエンティティタイプやドメイン特性を有する複数の生物医学的NERデータセットに、1つの統合学習モデルがどの程度一般化できるか？
• RQ4 再コンテキスト化を施した本手法のBERT-CNNモデルは、正確一致F1スコアおよびレアまたはネストされたエンティティに対する頑健性において、標準的なBERTベースのNERモデルを上回るか？
• RQ5 異なる生物医学的ドメインにおけるゼロショットまたはフェイワショット転移学習において、モデルの有効性はどの程度か？

主な発見

• 知識支援QA定式化によりNER性能が顕著に向上し、18個の公開生物医学的NERデータセットのうち12個で最先端の正確一致F1スコアを達成した。
• 強力なベースライン（従来のNERで微調整されたBERT-large）を1.5%から11%の範囲で上回った。
• 転移学習の実験では、ドメイン間での一般化が良好であり、エンティティタイプに応じてF1スコアが0.5%から20%低下したが、化学的エンティティでは高頻度語外問題にもかかわらず75%のF1スコアを維持した。
• 転移学習において「問題（Problem）」エンティティでは94.43、「検査（Test）」エンティティでは94.85のF1スコアを達成し、異なるデータセット間で類似したエンティティタイプの間で良好な整合性が示された。
• 知識テキストアテンションの活用により、解釈性が向上し、関連する知識への注目が強化され、曖昧または希少なエンティティの検出が向上した。
• BERT-CNNによる再コンテキスト化レイヤーは、特にネストされた場合や複雑なケースにおいて、より正確な境界検出を可能にするトークン表現の精緻化に効果的であった。