[論文レビュー] Learning the grammar of prescription: recurrent neural network grammars for medication information extraction in clinical texts

Ivan Lerner, Jordan Jouffroy+2 more|arXiv (Cornell University)|Apr 24, 2020

Natural Language Processing Techniques参考文献 30被引用数 4

ひとこと要約

本研究では、上位互換の遷移ベースのニューラルパーサーである再帰的ニューラルネットワーク文法（RNNG）を用いて、フランス語臨床文書から薬剤名、投与量、頻度、期間、経路、疾患状態といった薬剤情報の抽出を評価する。RNNGは、構造的インダクティブバイアスと共同エンティティ・リレーションモデリングのおかげで、関係抽出において88.5% F1（対照的バイリンガルLSTMベースラインの84.6%）を達成し、優れた性能を示すが、エンティティ検出ではわずかに劣り、82.4%（対照的84.1%）を記録する。

ABSTRACT

In this study, we evaluated the RNNG, a neural top-down transition based parser, for medication information extraction in clinical texts. We evaluated this model on a French clinical corpus. The task was to extract the name of a drug (or class of drug), as well as fields informing its administration: frequency, dosage, duration, condition and route of administration. We compared the RNNG model that jointly identify entities and their relations with separate BiLSTMs models for entities and relations as baselines. We call seq-BiLSTMs the baseline models for relations extraction that takes as extra-input the output of the BiLSTMs for entities. RNNG outperforms seq-BiLSTM for identifying relations, with on average 88.5% [87.2-89.8] versus 84.6 [83.1-86.1] F-measure. However, RNNG is weaker than the baseline BiLSTM on detecting entities, with on average 82.4 [80.8-83.8] versus 84.1 [82.7-85.6] % F- measure. RNNG trained only for detecting relations is weaker than RNNG with the joint modelling objective, 87.4 [85.8-88.8] versus 88.5% [87.2-89.8]. The performance of RNNG on relations can be explained both by the model architecture, which provides shortcut between distant parts of the sentence, and the joint modelling objective which allow the RNNG to learn richer representations. RNNG is efficient for modeling relations between entities in medical texts and its performances are close to those of a BiLSTM for entity detection.

研究の動機と目的

• 神経的文法を用いて構文的および関係的構造をモデル化することで、臨床文書における薬剤情報抽出を改善すること。
• 再帰的ニューラルネットワーク文法（RNNG）が、分離モデルよりもエンティティとその関係を共同で検出する能力に優れているかどうかを評価すること。
• 共同モデリングとアーキテクチャ設計が、リソースが限られた臨床NLP環境における性能に与える影響を評価すること。
• フランス語臨床ノートにおけるエンティティおよび関係抽出の両面で、RNNGの性能をBiLSTMベースラインと比較すること。

提案手法

• RNNGモデルは、臨床文書内のエンティティとその関係を共同で予測するトップダウン型、遷移ベースのパーサー的手法を採用する。
• モデルは再帰的ニューラルネットワークを用いて、パーサーの意思決定を導く隠れ状態を維持し、構造的依存関係を表現する。
• エンティティと関係の予測を共同で訓練することで、共有された隠れ状態を通じて、より豊かな文脈依存表現を学習できる。
• RNNGは、まずエンティティを検出し、その出力を関係抽出に使用するという、seq-BiLSTMベースラインと比較される。
• 共同モデリングの貢献を分離するために、関係抽出のみに訓練された変種のRNNGも評価される。
• モデルの性能は、薬剤名、投与量、頻度、期間、経路、疾患状態についてアノテートされたフランス語臨床コーパスを用いてF1スコアで評価される。

実験結果

リサーチクエスチョン

• RQ1 RNNGのような神経的文法モデルは、臨床文書における薬剤エンティティ間の関係抽出において、標準的なBiLSTMモデルを上回ることができるか？
• RQ2 RNNGにおけるエンティティと関係の共同モデリングは、分離されたエンティティおよび関係モデリングよりも優れた性能をもたらすか？
• RQ3 RNNGのアーキテクチャ的インダクティブバイアス、特に遠く離れた構成要素を結ぶ能力が、関係抽出に与える影響は何か？
• RQ4 共同学習の貢献は、関係のみに学習する場合と比較して、モデルの性能にどのように寄与するか？
• RQ5 RNNGのエンティティ検出性能は、専用のBiLSTMモデルと比べてどの程度か？

主な発見

• RNNGは関係抽出で平均F1スコア88.5% [87.2–89.8]を達成し、seq-BiLSTMベースラインの84.6% [83.1–86.1]を有意に上回る。
• エンティティ検出では、BiLSTMベースラインの84.1% [82.7–85.6]に対して、RNNGはF1が82.4% [80.8–83.8]にとどまる。
• RNNGにおける共同モデリングは、関係抽出性能の向上に寄与しており、関係抽出のみに学習した場合のF1（87.4% [85.8–88.8]）は、共同学習の88.5%より低い。
• RNNGのアーキテクチャ的インダクティブバイアス、特に遠く離れた文の構成要素を結ぶ能力が、優れた関係抽出能力に貢献している。
• RNNGの関係抽出性能は、BiLSTMモデルのエンティティ検出性能に近く、臨床NLPパイプラインへの統合の可能性が示唆される。
• 結果から、RNNGの強みは、構文的および意味的依存関係が長距離にわたる場合に、臨床文書の関係的構造を効果的にモデル化できることにある。