[論文レビュー] Query-Focused EHR Summarization to Aid Imaging Diagnosis

Denis Jered McInerney, Borna E. Dabiri+4 more|arXiv (Cornell University)|Apr 9, 2020

Topic Modeling参考文献 23被引用数 4

ひとこと要約

本論文は、電子的医療記録（EHR）のための、遠隔教師ありでクエリ中心の抽出的要約モデルを提案しており、画像診断における放射線科医の支援を目的としている。このモデルは、潜在的な診断（例：ICDコード）を条件として、臨床的に関連するテキストスニペットを取得する。Clinical BERTとトランスフォーマー基盤のアテンション機構を用い、将来のICDコードをノイズの多い教師信号として用いることで、重要なEHRコンテンツを特定する。放射線科医による評価において、教師なしベースラインを著しく上回る性能を示した。

ABSTRACT

Electronic Health Records (EHRs) provide vital contextual information to radiologists and other physicians when making a diagnosis. Unfortunately, because a given patient's record may contain hundreds of notes and reports, identifying relevant information within these in the short time typically allotted to a case is very difficult. We propose and evaluate models that extract relevant text snippets from patient records to provide a rough case summary intended to aid physicians considering one or more diagnoses. This is hard because direct supervision (i.e., physician annotations of snippets relevant to specific diagnoses in medical records) is prohibitively expensive to collect at scale. We propose a distantly supervised strategy in which we use groups of International Classification of Diseases (ICD) codes observed in 'future' records as noisy proxies for 'downstream' diagnoses. Using this we train a transformer-based neural model to perform extractive summarization conditioned on potential diagnoses. This model defines an attention mechanism that is conditioned on potential diagnoses (queries) provided by the diagnosing physician. We train (via distant supervision) and evaluate variants of this model on EHR data from Brigham and Women's Hospital in Boston and MIMIC-III (the latter to facilitate reproducibility). Evaluations performed by radiologists demonstrate that these distantly supervised models yield better extractive summaries than do unsupervised approaches. Such models may aid diagnosis by identifying sentences in past patient reports that are clinically relevant to a potential diagnosis.

研究の動機と目的

• 画像診断の際、放射線科医が膨大なEHRノートをレビューする時間的余裕がないという課題に対処すること。
• スニペットの関連性に対する高価な直接的アノテーションを必要としない、EHRノートの抽出的でクエリ中心の要約を生成する手法を開発すること。
• 将来のICDコードを遠隔教師信号として用い、潜在的な診断のための臨床的に関連するテキストスニペットを特定するモデルを訓練すること。
• 遠隔教師ありモデルが、臨床的関連性と実用性において、教師なし要約アプローチを上回るかどうかを評価すること。
• 特に画像診断の現場において、効率的かつスケーラブルに関連する患者歴史にアクセスできる仕組みを提供すること。

提案手法

• モデルは、診断クエリ（例：ICDコードの説明）とEHRノートを同時にエンコードすることで文脈的表現を生成する。
• ポインタ機構を備えたトランスフォーマー基盤のアーキテクチャが、クエリに基づいて入力文にアテンションを集中させることで、抽出的要約を生成する。
• 遠隔教師あり学習として、将来のICDコードのグループを、後続の診断のプロキシラベルとして用い、モデルを訓練する。
• モデルは将来のICDコードグループの予測を目的とし、上位のアテンション重みをソフトスコアメカニズムとして用い、関連するテキストスニペットを取得する。
• アテンション機構はクエリ（診断）に条件付けられており、入力文にわたる分布を生成することで、最も関連性の高い文を特定する。
• 放射線科医がスニペットの関連性をアノテートし、モデル出力を盲検で評価できるインターフェースを開発した。

実験結果

リサーチクエスチョン

• RQ1 遠隔教師ありモデルは、画像診断のためのEHR要約において、教師なし手法よりも臨床的に関連性の高いものを生成できるか？
• RQ2 将来のICDコードは、クエリ中心の要約モデルの学習に、効果的なノイズの多いプロキシとして機能するか？
• RQ3 放射線科医は、モデルが生成した要約の関連性と実用性をどのように評価するか？
• RQ4 スニペットの関連性に対する直接的教師信号がなくても、診断クエリに条件付けられたモデルは、重要なEHRコンテンツを抽出できるか？
• RQ5 診断クエリに条件付けられたトランスフォーマー基盤のアテンション機構を用いることで、抽出的要約の性能が向上するか？

主な発見

• 放射線科医は、遠隔教師ありモデルの出力が、教師なしベースラインよりも、診断クエリに対する臨床的に関連するEHRスニペットを特定するうえで、著しく関連性が高く、実用的であると評価した。
• モデルのアテンション機構は、スニペットの関連性に対する明示的教師信号がなくても、将来の診断を予測するのに有用な過去のノートの文を効果的に強調した。
• 将来のICDコードを遠隔教師信号として用いることで、関連スニペットの手動アノテーションを一切必要とせず、クエリ中心の要約モデルの学習が可能になった。
• 自動評価および放射線科医による評価の両方において、提案手法は教師なし手法を上回り、臨床的実用性の向上を示した。
• EHRから文脈的に関連する患者歴史を取得することで、リアルタイムかつ現場での診断支援の実現可能性を示した。
• 本アプローチは画像診断に限らず汎用的であり、タスク固有のアノテーションを必要とせず、既存のICDコードのみに依存しているため、応用範囲が広がる。