[論文レビュー] MedType: Improving Medical Entity Linking with Semantic Type Prediction.

Shikhar Vashishth, Rishabh Joshi+3 more|arXiv (Cornell University)|May 1, 2020

Topic Modeling参考文献 77被引用数 14

ひとこと要約

MedTypeは、不要な候補を削減するためにエンティティメンションの意味的タイプを予測することで、医療エンティティリンクの過剰生成を顕著に低減する。WikiMedおよびPubMedDSという大規模データセットで事前学習され、5つのツールキットに統合されたMedTypeは、ベンチマーク全体で一貫した性能向上を示し、公開されたコードとデータを用いて最先端の性能向上を達成した。

ABSTRACT

Medical entity linking is the task of identifying and standardizing medical concepts referred to in an unstructured text. Most of the existing methods adopt a three-step approach of (1) detecting mentions, (2) generating a list of candidate concepts, and finally (3) picking the best concept among them. In this paper, we probe into alleviating the problem of overgeneration of candidate concepts in the candidate generation module, the most under-studied component of medical entity linking. For this, we present MedType, a fully modular system that prunes out irrelevant candidate concepts based on the predicted semantic type of an entity mention. We incorporate MedType into five off-the-shelf toolkits for medical entity linking and demonstrate that it consistently improves entity linking performance across several benchmark datasets. To address the dearth of annotated training data for medical entity linking, we present WikiMed and PubMedDS, two large-scale medical entity linking datasets, and demonstrate that pre-training MedType on these datasets further improves entity linking performance. We make our source code and datasets publicly available for medical entity linking research.

研究の動機と目的

• 医療エンティティリンクの候補生成段階における、未だ十分に研究されていない過剰生成問題に対処すること。
• 予測された意味的タイプを活用して、関係のない候補概念をフィルタリングするモジュラーなシステムの開発。
• MedTypeとの統合により、既存の医療エンティティリンクツールキットの正確性と効率性の向上。
• 限られたアノテート済み学習データの課題を軽減するため、WikiMedおよびPubMedDSという2つの大規模医療エンティティリンクデータセットの導入。
• これらの新規データセットでMedTypeを事前学習することで、多様なベンチマークでリンク性能がさらに向上することの実証。

提案手法

• エンティティメンションを入力として受け取り、神経ネットワーク分類器を用いてその意味的タイプ（例：疾患、薬剤、手術）を予測する完全にモジュラーなシステムの設計。
• 予測された意味的タイプを用いて、候補生成段階で意味的に整合性のない概念を除外する。
• MedTypeを5つの市販の医療エンティティリンクツールキットにプラグインとして統合し、汎用性と互換性の評価。
• WikipediaおよびPubMedから抽出された新規の大規模データセットであるWikiMedおよびPubMedDSを用いて、意味的タイプ分類器を事前学習。
• 微調整により、下流のエンティティリンクタスクで事前学習済みタイプ分類器を活用し、性能向上を図る。
• 標準的な医療エンティティリンクベンチマークでエンドツーエンド評価を実施し、F1および精度-再現率指標における改善を測定。

実験結果

リサーチクエスチョン

• RQ1 意味的タイプ予測は、再現率を損なわせることなく、医療エンティティリンクにおける候補の過剰生成を効果的に低減できるか？
• RQ2 既存の医療エンティティリンクツールキットにMedTypeを統合した場合、どの程度の性能向上が得られるか？
• RQ3 WikiMedおよびPubMedDSのような大規模で弱教師ありのデータセットで事前学習することで、MedTypeの汎用性とリンク精度はどの程度向上するか？
• RQ4 MedTypeのモジュラー設計は、多様な医療テキストドメインやエンティティリンクシステムにおいて一貫した性能向上を実現できるか？
• RQ5 大規模コーパスにおける自己教師あり事前学習により、MedTypeは医療エンティティリンクにおける限られたアノテート済み学習データの影響を軽減できるか？

主な発見

• MedTypeは、複数のベンチマークデータセットで5つの異なる市販ツールキットにおいて一貫してエンティティリンク性能を向上させた。
• MedTypeの統合により、意味的に整合性のない概念が除外され、リンク結果の精度が向上した。
• 意味的タイプ分類器をWikiMedおよびPubMedDSで事前学習することで、下流のエンティティリンクタスクにおける性能が顕著に向上した。
• 提案されたデータセットWikiMedおよびPubMedDSは、大規模で高品質な学習データを提供し、効果的な事前学習と転移学習を可能にした。
• 標準的な医療エンティティリンクベンチマークで評価した結果、MedTypeはF1および精度指標で最先端の性能向上を達成した。
• MedTypeのモジュラー設計により、既存のパイプラインへのスムーズな統合が可能であり、多様な医療NLPシステムにおける強い汎用性を示した。