[論文レビュー] Improving Multi-Word Entity Recognition for Biomedical Texts

Hamada Nayel, H. L. Shashirekha+2 more|arXiv (Cornell University)|Aug 15, 2019

Biomedical Text Mining and Ontologies参考文献 31被引用数 10

ひとこと要約

本稿では、生物医学名前付きエンティティ認識（BioNER）のための拡張IOBESタギング方式FROBESを提案する。FROBESは、i2b2/VA 2010およびJNLPBA 2004データセット上でBiLSTMベースのモデルを用いて、特に2語以上の長さのエンティティの検出を向上させる。アンサンブル投票を組み合わせることで性能がさらに向上し、2語以上の長さのエンティティに対して顕著な改善効果を示した。

ABSTRACT

Biomedical Named Entity Recognition (BioNER) is a crucial step for analyzing Biomedical texts, which aims at extracting biomedical named entities from a given text. Different supervised machine learning algorithms have been applied for BioNER by various researchers. The main requirement of these approaches is an annotated dataset used for learning the parameters of machine learning algorithms. Segment Representation (SR) models comprise of different tag sets used for representing the annotated data, such as IOB2, IOE2 and IOBES. In this paper, we propose an extension of IOBES model to improve the performance of BioNER. The proposed SR model, FROBES, improves the representation of multi-word entities. We used Bidirectional Long Short-Term Memory (BiLSTM) network; an instance of Recurrent Neural Networks (RNN), to design a baseline system for BioNER and evaluated the new SR model on two datasets, i2b2/VA 2010 challenge dataset and JNLPBA 2004 shared task dataset. The proposed SR model outperforms other models for multi-word entities with length greater than two. Further, the outputs of different SR models have been combined using majority voting ensemble method which outperforms the baseline models performance.

研究の動機と目的

• 臨床および研究用テキストにおける、特に長いエンティティを含む多語に跨る生物医学的エンティティ認識の課題に対処すること。
• IOBESタギング方式を拡張することで、多語に跨るエンティティの表現を序列ラベル付けにおいて向上させること。
• 提案されたFROBESモデルの標準的な生物医学NERベンチマークデータセットにおける有効性を評価すること。
• 多数決投票を用いたモデルアンサンブル技術により、全体的なBioNER性能を向上させること。

提案手法

• 多語に跨る生物医学的エンティティの境界と内部構造をよりよく捉えるために、IOBESタギング方式を拡張したFROBESを提案する。
• BioNERにおける序列ラベル付けのベースラインシステムとして、BiLSTMに基づくニューラルネットワークモデルを設計する。
• 標準的な生物医学NERデータセット2つ（i2b2/VA 2010およびJNLPBA 2004）上でモデルを学習および評価する。
• 複数のSRモデル（IOB2、IOE2、IOBES、FROBESを含む）の予測結果を統合することで多数決投票アンサンブルを適用し、耐性および性能を向上させる。
• 標準的な評価指標（精度、再現率、F1スコア）を用いて、異なるタギング方式におけるモデル性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 標準IOBESと比較して、拡張IOBESタギング方式は多語に跨る生物医学的エンティティの認識を向上させることができるか？
• RQ2 FROBESタギングモデルは、生物医学的テキストにおける長い多語エンティティ（長さ＞2）に対してどのように性能を発揮するか？
• RQ3 多数決投票を用いて複数のシーケンス表現モデルの出力を統合することは、全体的なBioNER性能を向上させるか？
• RQ4 提案されたFROBESモデルは、標準的な生物医学NERベンチマークにおいてベースラインモデルよりも効果的か？

主な発見

• FROBESは、2語を超える長さのエンティティを認識する面で、標準IOBESおよび他のSRモデルを顕著に上回った。
• FROBESタギングを用いたBiLSTMベースのモデルは、i2b2/VA 2010およびJNLPBA 2004の両データセットでベースラインモデルよりも高いF1スコアを達成した。
• 異なるSRモデルの出力を多数決投票で統合したアンサンブルにより、FROBESベースラインを含む個々のモデルを上回る性能が達成された。
• 特に長いエンティティに対して改善効果が顕著で、FROBESが複雑なエンティティ境界を効果的に捉えられることを確認した。