[論文レビュー] Learning to Write Notes in Electronic Health Records

Peter J. Liu|arXiv (Cornell University)|Aug 8, 2018

Machine Learning in Healthcare参考文献 18被引用数 12

ひとこと要約

本稿では、人口統計、検査値、薬剤、過去のノートなどのマルチモーダルEHRデータを用いて、臨床ノートの内容を予測する条件付き言語モデルのアプローチを提案する。大規模言語モデルが高い正確性を示し、臨床的に関連性のあるノートテキストを効果的に生成できることを示しており、自動補完や誤字訂正などのAI支援文書作成ツールの実現に貢献する。

ABSTRACT

Clinicians spend a significant amount of time inputting free-form textual notes into Electronic Health Records (EHR) systems. Much of this documentation work is seen as a burden, reducing time spent with patients and contributing to clinician burnout. With the aspiration of AI-assisted note-writing, we propose a new language modeling task predicting the content of notes conditioned on past data from a patient's medical record, including patient demographics, labs, medications, and past notes. We train generative models using the public, de-identified MIMIC-III dataset and compare generated notes with those in the dataset on multiple measures. We find that much of the content can be predicted, and that many common templates found in notes can be learned. We discuss how such models can be useful in supporting assistive note-writing features such as error-detection and auto-complete.

研究の動機と目的

• EHRシステムにおける臨床文書作成の負担増加に取り組み、それが医師の燃え尽き状態を引き起こし、患者との対話時間の短縮を招く要因となっていること。
• 構造的および非構造的データを含む多様なEHRデータに基づく新しい言語モデリングタスクを定義し、臨床ノートの内容を予測すること。
• 強固な条件付き言語モデルを活用して、自動補完や誤字訂正といったAI支援機能を可能にすることで、EHRの使いやすさを向上させること。
• 定量的指標と定性的分析を用いて、実世界のEHRデータにおける言語モデルの予測力の評価を行うこと。
• 一般的なノートテンプレートやコンテンツが、歴史的EHRデータから学習可能であることを示し、スケーラブルで文脈に適したノート生成を可能にすること。

提案手法

• マルチモーダルな文脈 $ c = (R, T, H) $ を前提として、臨床ノートの次のトークンを予測する条件付き言語モデルを定義する。ここで $ R $ は患者のEHR履歴、$ T $ はノートタイプ、$ H $ は最初の10トークンのヒントを表す。
• 人口統計、検査値、薬剤、過去のノートといった異種のEHRデータを、埋め込み技術を用いて密な順序付き文脈ベクトルに変換する。
• 39,597例のICU患者を含む、脱識別化されたMIMIC-IIIデータセットを用いて、自己回帰的トランスフォーマーに基づく言語モデルを学習する。
• 全文脈を前提としたノートシーケンスにおける次のトークンの予測能力を最適化するために、交差エントロピー損失を用いる。
• 臨床テキストに一般的な希少語や未知語を扱うために、サブワードトークン化（例：BPE）を導入する。
• 困惑度、BLEU、ROUGE、および生成されたノートの質と整合性に関する人的評価などの指標を用いて、モデルの性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 患者のEHR履歴とノートタイプのみを用いて、言語モデルが臨床ノートの内容をどの程度正確に予測できるか。
• RQ2 モデルは、実際のEHRデータから一般的な臨床ノートテンプレートやフレーズパターンを学習し、再現できるか。
• RQ3 生成されたノートは、自然さ、整合性、臨床的関連性の観点から、実際の医師が作成したノートと比較してどの程度有効であるか。
• RQ4 構造的および非構造的データを含むマルチモーダルEHR文脈が、予測精度の向上に果たす役割は何か。
• RQ5 このようなモデルは、自動補完やスペルチェックなどのリアルタイムノート作成ツールにおいて、実際に医師がどのように支援できるか。

主な発見

• 保留された臨床ノートにおいて、モデルは低い困惑度を達成しており、EHR文脈を用いたノート内容の強力な予測能力を示している。
• モデルは、"GCS 15, intubated, transferred to OSH" といった一般的なノートテンプレートを高い確率で学習・再現できている。
• 「was」と「GCS」のような語のトップ5次トークン予測では、臨床的に関連する語に高い信頼性が見られ（例："was" は確率0.42、"GCS" は確率0.25）、高い信頼性が示された。
• 定性的分析と人的評価による検証により、モデルは意味的に整合性があり、文脈に適したノートセグメントを生成できていることが確認された。
• ノートタイプや初期トークンを含むマルチモーダル文脈の使用は、単一モーダルベースラインと比較して、生成品質を顕著に向上させた。
• これらの結果から、このようなモデルが、リアルタイムの自動補完や誤字訂正システムなどの実用的EHR支援ツールの基盤を形成できることを示唆している。