[論文レビュー] Bidirectional Recurrent Neural Networks for Medical Event Detection in Electronic Health Records

Abhyuday Jagannatha, Hong Yu|arXiv (Cornell University)|Jun 25, 2016

Machine Learning in Healthcare参考文献 26被引用数 13

ひとこと要約

本稿では、電子的健康記録（EHR）における医療イベント検出のため、双方向LSTMおよびゲート付き再帰ユニット（GRU）ネットワークを提案する。手動で特徴を設計した従来の条件付きラウンドフィールド（CRF）を上回り、可変長の文脈を捉えることで、長距離の文脈的依存関係を効果的に把握し、特に有害薬物イベント（ADE）のようなレアなイベントや、持続期間、頻度、重症度などの属性についてのラベルの混同を顕著に低減する。

ABSTRACT

Sequence labeling for extraction of medical events and their attributes from unstructured text in Electronic Health Record (EHR) notes is a key step towards semantic understanding of EHRs. It has important applications in health informatics including pharmacovigilance and drug surveillance. The state of the art supervised machine learning models in this domain are based on Conditional Random Fields (CRFs) with features calculated from fixed context windows. In this application, we explored various recurrent neural network frameworks and show that they significantly outperformed the CRF models.

研究の動機と目的

• ノイズが多く、構造のないEHRノートから、薬物、診断、有害薬物イベント（ADE）などの医療的に重要なイベントを検出する課題に対処すること。
• 固定された文脈窓と手作業で特徴を設計した従来のCRFベースのモデルの限界を克服し、可変長の文脈的依存関係を捉えることができない点を改善すること。
• 双方向RNN（LSTMおよびGRU）が、臨床テキストにおける長距離依存関係をモデル化することで、逐次ラベル付けのパフォーマンスを向上させることの有効性を評価すること。
• 従来のCRFモデルと比較して、RNNが、特にADEのような希少かつ文脈依存的なイベントのパターンの多様性をより効果的に扱えることを示すこと。

提案手法

• EHRノート内の順序的依存関係をモデル化するため、双方向LSTMおよびゲート付き再帰ユニット（GRU）ネットワークを採用し、文脈に配慮した医療イベントのラベル付けを可能にした。
• 入力層の初期化に事前学習済みのskip-gram単語埋め込みを用い、希少な医療用語や縮約語の表現学習を向上させた。
• 文レベルおよび文書レベルのモデルを設計し、文脈長の影響、特に広い文脈を要するイベントに対してのパフォーマンスへの影響を評価した。
• ラベルの一貫性を保証するため、CRFデコーダーを後処理として適用したが、主なモデルはクロスエントロピー損失を用いてエンドツーエンドで訓練された。
• 905件のADE、1,500件の薬物、1,200件の適応症を含む、ゴールドスタンダードのアノテート済みデータセットを用いてF1スコアでパフォーマンスを評価し、文脈窓サイズおよびモデルアーキテクチャに関するアブレーションスタディも実施した。
• 固定窓におけるbag-of-words表現を用いて、文脈モデリングの影響を隔離するため、CRFベースライン（文脈特徴あり・なし）とRNNモデルを比較した。

実験結果

リサーチクエスチョン

• RQ1 LSTMやGRUのような双方向RNNは、手作業で特徴を設計した従来のCRFモデルよりも、EHRノートからの医療イベント検出において優れていると言えるか？
• RQ2 RNNが可変長の文脈を扱うのに対し、CRFが固定窓を用いる場合に比べ、ADEのような文全体にわたるイベントの依存関係をどれほど効果的に捉えられるか？
• RQ3 RNNモデルは、持続期間、頻度、重症度などの属性のような希少または文脈依存的なイベントのラベル混同をどの程度低減できるか？
• RQ4 文書レベルの文脈を用いることで、RNNモデルのパフォーマンスは向上するか？特に複数の文に散らばる適応症のようなイベントに対しては？
• RQ5 パrameter数の多いRNNが、小さなデータセットではなぜCRFを上回るのか？また、事前学習済み単語埋め込みはこの一般化性能にどのような役割を果たすのか？

主な発見

• 双方向RNN（LSTMおよびGRU）は、CRFモデルを著しく上回り、ADE、持続期間、頻度、重症度などの希少ラベルの混同を、CRF-nocontextと比較して50%以上も低減した。
• GRU文書モデルは、頻度ラベルの混同率を、CRF文脈ありの31%から6.1%にまで低減し、RNNが長距離依存関係を学習する利点を示した。
• LSTM文書モデルは、文レベルモデルと比較して、GRUほど明確な改善を示さなかったが、これはパラメータ数が多く、再帰構造がより複雑であるためであり、GRUが小規模データセットにおいてより効率的である可能性を示唆している。
• 文脈に依存するラベルに対して、パフォーマンスの向上が顕著に見られた：ADEおよび適応症の混同率は、RNNを用いることで顕著に低下した。特に文書レベルの文脈を用いることで顕著な改善が得られた。
• 訓練例が少ない状況でも、RNNモデルはCRFを上回るF1スコアを達成しており、事前学習済み単語埋め込みとRNNが可変長文脈をモデル化できる能力のおかげで、より良い一般化性能を示している。
• 図4は、RNNが訓練データ量の増加に対しても一貫したパフォーマンス向上を示しており、特にリソースが限られた医療イベントタイプにおいて、堅牢性とスケーラビリティがあることを示している。