[論文レビュー] Multi-Label Classification of Patient Notes a Case Study on ICD Code Assignment

Tal Baumel, Jumana Nassour-Kassis+3 more|arXiv (Cornell University)|Sep 27, 2017

Biomedical Text Mining and Ontologies被引用数 88

ひとこと要約

この論文は、退院サマリから複数のICDコードを割り当てる4つのモデルを比較し、HA-GRUが透明な文レベルの注意機構を用いた最先端の結果を達成し、誤り分析のための文レベルの注意を提供する。MIMIC II/IIIデータセットを用い、完全な ICD-9 コードとロールドアップコードを使用。

ABSTRACT

In the context of the Electronic Health Record, automated diagnosis coding of patient notes is a useful task, but a challenging one due to the large number of codes and the length of patient notes. We investigate four models for assigning multiple ICD codes to discharge summaries taken from both MIMIC II and III. We present Hierarchical Attention-GRU (HA-GRU), a hierarchical approach to tag a document by identifying the sentences relevant for each label. HA-GRU achieves state-of-the art results. Furthermore, the learned sentence-level attention layer highlights the model decision process, allows easier error analysis, and suggests future directions for improvement.

研究の動機と目的

• 非常に大きなラベル集合を持つ長い臨床ノートから自動的にマルチラベルICDコーディングを行う動機付け。
• 4つのモデル（SVM、CBOW、CNN、HA-GRU）を全 ICD-9 コードセットとロールドアップ ICD-9 コードセットで調査。
• 予測を説明するための注意機構を通じたモデルの透明性を提供。
• トレーニングデータサイズの影響と一般化可能性を評価するためにMIMIC IIとMIMIC IIIでモデルを評価。

提案手法

• マルチラベル ICD コーディングの4モデルを評価：one-vs-all SVM、CBOW ニューラルモデル、CNN、および HA-GRU（階層的文レベル注意付き）。
• spaCy トークン化、編集距離に基づく正規化、5+ トークンの語彙カットオフを用いてテキストを前処理。
• 文を階層的に分割して2レベルの GRU エンコーダを可能にする。
• HA-GRU は文レベルの双方向 GRU に注意を適用して各ラベルに対する関連文を選択し、続いて文書レベルの双方向 GRU にラベル固有の注意を適用。
• それぞれの分類器を適切な損失で個別に訓練：SVM/CBOW/CNN は二項交差エントロピー、HA-GRU はカテゴリカル交差エントロピー、ラベルごとにソフトマックス出力。
• 比較は二つのラベル設定で実施：完全な5桁 ICD-9 コードとロールドアップ3桁コード。

実験結果

リサーチクエスチョン

• RQ1 長い退院サマリで非常に大きな ICD コードセットを用いた極端なマルチラベル分類は効果的に実行できるか？
• RQ2 DRNN（HA-GRU）の階層的注意は従来のベースラインよりマルチラベル ICD コード割り当てを改善するか？
• RQ3 完全な ICD-9 とロールドアップ ICD-9 コードセット、および異なるトレーニングデータサイズ（MIMIC II と MIMIC III）でモデルはどう機能するか？
• RQ4 注意機構は ICD コード予測の透明で解釈可能な説明を提供できるか？

主な発見

• HA-GRU はロールドアップ ICD-9 コードで最高の性能を達成し、MIMIC III で Micro-F1 が 55.86%、最良の非 HA ベースラインより約 2.8 ポイント高い。
• 完全な ICD-9 実験では CNN が MIMIC III で HA-GRU をやや上回るが、HA-GRU は依然として強力で説明能力が向上。
• MIMIC II vs MIMIC III でトレーニングデータが増えるほどすべてのモデルが改善し、ロールドアップタスクでは HA-GRU が顕著な利得を示す（例：ロールドアップ設定で MIMIC II で F1 が約7%絶対向上）。
• 二レベルの注意はラベルごとの文選択と文ごとの単語レベルの焦点を可能にし、モデルの透明性と誤り分析を支援。
• 珍variant の正規化を含む前処理手順は CBOW および CNN の性能を約0.5% F1向上させる。