[論文レビュー] MedGPT: Medical Concept Prediction from Clinical Narratives

Željko Kraljević, Anthony Shek+4 more|arXiv (Cornell University)|Jul 7, 2021

Machine Learning in Healthcare参考文献 23被引用数 5

ひとこと要約

MedGPT は、自由記述型 EHR を MedCAT を用いて構造化し、因果的言語モデリングを適用することで、非構造化臨床ナラティブから将来の医学的障害を予測するトランスフォーマー基盤モデルである。LSTM ベースライン（トップ5での精度：0.640 対 0.633）を上回る優れた性能を示し、注目可視化と複数選択式の質問への回答タスクを通じて臨床的推論を示している。

ABSTRACT

The data available in Electronic Health Records (EHRs) provides the opportunity to transform care, and the best way to provide better care for one patient is through learning from the data available on all other patients. Temporal modelling of a patient's medical history, which takes into account the sequence of past events, can be used to predict future events such as a diagnosis of a new disorder or complication of a previous or existing disorder. While most prediction approaches use mostly the structured data in EHRs or a subset of single-domain predictions and outcomes, we present MedGPT a novel transformer-based pipeline that uses Named Entity Recognition and Linking tools (i.e. MedCAT) to structure and organize the free text portion of EHRs and anticipate a range of future medical events (initially disorders). Since a large portion of EHR data is in text form, such an approach benefits from a granular and detailed view of a patient while introducing modest additional noise. MedGPT effectively deals with the noise and the added granularity, and achieves a precision of 0.344, 0.552 and 0.640 (vs LSTM 0.329, 0.538 and 0.633) when predicting the top 1, 3 and 5 candidate future disorders on real world hospital data from King's College Hospital, London, UK ( extasciitilde600k patients). We also show that our model captures medical knowledge by testing it on an experimental medical multiple choice question answering task, and by examining the attentional focus of the model using gradient-based saliency methods.

研究の動機と目的

• 非構造化 EHR ナラティブから将来の医学的イベントを予測する汎用モデルの開発。
• 従来のモデルが構造化 EHR データに依存するか、予測範囲が狭いという限界を克服すること。
• 自由記述型臨床ノートを標準化された順序付き医学的概念に変換することで、患者の履歴の時系列モデリングを可能にすること。
• 差分診断推論と注目可視化を通じて、モデルが医学的知識をどのように捉えているかを評価すること。
• 勾配ベースの局在性手法を用いて、予測に影響を与える臨床的に関連するトークンを患者タイムラインで特定し、説明可能な予測を提供すること。

提案手法

• 自由記述型 EHR テキストに対して MedCAT を用いて命名エンティティ認識およびリンク（NER+L）を実行し、臨床用語を標準化された医学オントロジーにマッピングする。
• 時系列メタデータに基づいて、医学的概念を時系列順に並べることで、患者履歴の順序付き表現を構築する。
• GPT-2 ベースの因果的言語モデリング（CLM）アーキテクチャを用いて、シーケンスにおける次の医学的概念を予測し、自己回帰的予測を可能にする。
• マスク言語モデリングでの事前学習を経ずに、ターゲットタスク（将来の障害予測）に対してエンドツーエンドでモデルを学習する。
• 注目重みの解釈のため、勾配ベースの局在性手法を適用し、各予測における患者タイムラインで最も影響力のあるトークンを同定する。
• キングス・カレッジ・ホスピタルの実世界 EHR データ（約60万件の患者）を用いて、トップ1、トップ3、トップ5での精度を評価する。

実験結果

リサーチクエスチョン

• RQ1 構造化 EHR データに依存せずに、非構造化臨床ナラティブから将来の医学的障害を効果的に予測できるトランスフォーマー基盤モデルは存在するか？
• RQ2 MedGPT の性能は、トップ1、トップ3、トップ5の候補順位において、LSTM ベースラインと比較してどうなるか？
• RQ3 複数選択式のシナリオにおいて、MedGPT は希少または文脈依存の診断を正しく特定するほど、臨床的推論を示せるか？
• RQ4 勾長ベースの局在性手法は、臨床的に関連するトークン（例：症状、合併症）を特定でき、モデルの予測を説明できるか？
• RQ5 注目メカニズムを通じて、疾患と合併症の関連性といった関係的医学的知識を MedGPT は捉えられるか？

主な発見

• MedGPT は実世界の EHR データにおいて、トップ5の将来の障害予測で精度 0.640 を達成し、LSTM ベースライン（0.633）を上回った。
• トップ1、トップ3、トップ5での精度はそれぞれ 0.344、0.552、0.640 であり、複数の評価閾値で優れた性能を示した。
• 複数選択式の診断タスクでは、4つのテストケースすべてで最も可能性の高い診断を正しく特定した。これは、誘導的推論や誤解を招く選択肢を含む複雑なシナリオでも成立した。
• 勾長ベースの局在性解析により、『ケトアシドーシス』『足部潰瘍』『49歳』といった臨床的に関連するトークンが、糖尿病関連合併症の予測において特に顕著な影響を持つことが明らかになった。
• モデルは、誤解を招くまたは一般的な合併症がある中でも、希少な診断（例：先天性嚢胞腎症、薬物誘発性パーキンソン病）を正しく特定するなど、誤魔化しに強い性能を示した。
• 注目マップから、MedGPT は時系列的に関連性があり、臨床的に意味のある出来事に注目していることが示され、医学的知識と時系列的推論を効果的に捉えていることがわかった。