[論文レビュー] PromptEHR: Conditional Electronic Healthcare Records Generation with Prompt Learning

Zifeng Wang, Jimeng Sun|arXiv (Cornell University)|Oct 11, 2022

Topic Modeling被引用数 11

ひとこと要約

PromptEHR は、年齢や性別などの人口統計学的特徴および臨床的特徴を用いて制御可能な、テキスト対テキストの言語モデルベースのフレームワークを提案する。このフレームワークは、プロンプト学習を用いて、リアルなマルチモーダルな縦断的電子医療記録（EHR）を生成する。ベースラインと比較して、縦断的補完の perplexity が 53.1% 低く、クロスモダリティの perplexity が 45.3% 低く、最先端の性能を達成している。また、メンバーーシップ攻撃および属性推定攻撃に対して強いプライバシー保護を示している。

ABSTRACT

Accessing longitudinal multimodal Electronic Healthcare Records (EHRs) is challenging due to privacy concerns, which hinders the use of ML for healthcare applications. Synthetic EHRs generation bypasses the need to share sensitive real patient records. However, existing methods generate single-modal EHRs by unconditional generation or by longitudinal inference, which falls short of low flexibility and makes unrealistic EHRs. In this work, we propose to formulate EHRs generation as a text-to-text translation task by language models (LMs), which suffices to highly flexible event imputation during generation. We also design prompt learning to control the generation conditioned by numerical and categorical demographic features. We evaluate synthetic EHRs quality by two perplexity measures accounting for their longitudinal pattern (longitudinal imputation perplexity, lpl) and the connections cross modalities (cross-modality imputation perplexity, mpl). Moreover, we utilize two adversaries: membership and attribute inference attacks for privacy-preserving evaluation. Experiments on MIMIC-III data demonstrate the superiority of our methods on realistic EHRs generation (53.1\% decrease of lpl and 45.3\% decrease of mpl on average compared to the best baselines) with low privacy risks. Software is available at https://github.com/RyanWangZf/PromptEHR.

研究の動機と目的

• 医療機械学習研究におけるプライバシーのリスクやデータアクセス制限のため、実際の EHR を共有することが困難であるという課題に対処すること。
• 診断、薬物、処置、患者の人口統計学的特徴間の複雑な時間的およびクロスモダリティ的関係を反映する高精細なマルチモーダルな縦断的 EHR を生成すること。
• 患者の人口統計学的特徴および過去の臨床的イベントに基づいて、生成を条件づけることで、よりパーソナライズされ、有用性の高い柔軟な EHR 生成を可能にすること。
• 合成 EHR の評価を生成品質に加え、メンバーーシップ攻撃および属性推定攻撃を用いたプライバシーリスクの両面から行うこと。
• 十分な数の合成サンプルが与えられた場合、実データと組み合わせて使用することで、合成 EHR が実データを上回る性能を示し、下流の機械学習タスクで効果的に実データを補完できることを示すこと。

提案手法

• 事前学習済み言語モデル（例：T5、BART）を用いて、EHR の生成をテキスト対テキストの翻訳タスクとして定式化する。各訪問を特別なマーカーを伴うイベントトークンのシーケンスとして扱う。
• 特別なトークン（例：<v>、</v> を訪問に、<dx>、</dx> を診断に使用）を用いて縦断的 EHR をトークン化されたシーケンスに変換し、時間的および構造的順序を保持する。
• 人口統計学的特徴（年齢、性別など）を専用の特徴抽出器で埋め込み、入力トークン埋め込みに統合することで、生成を条件づけるプロンプト学習機構を設計する。
• 因果的言語モデル損失を用いて学習することで、過去の訪問および条件付きプロンプトからの文脈を維持しながら、自己回帰的かつ逐次的なイベント生成を可能にする。
• 事前学習済み言語モデルを凍結した状態でプロンプトチューニングを統合することで、モデルの一般化能力を保持しつつ、効率的なファインチューニングを実現する。
• 二段階の評価パイプラインを採用する：(1) 評価品質のための perplexity ベースの指標（縦断的およびクロスモダリティ補完 perplexity）、(2) プライバシー評価のためのメンバーーシップおよび属性推定攻撃。

実験結果

リサーチクエスチョン

• RQ1 言語モデルベースのアプローチは、臨床的イベント間の複雑な時間的およびクロスモダリティ的依存関係を保持した、リアルなマルチモーダルな縦断的 EHR を生成できるか？
• RQ2 プロンプト学習は、患者の人口統計学的特徴および過去の臨床的イベントに基づいた、柔軟で条件付きの EHR 生成にどの程度効果的か？
• RQ3 PromptEHR が生成する合成 EHR は、下流の機械学習タスクにおいて、実際の EHR と同等かそれ以上の品質を達成できるか？
• RQ4 メンバーーシップおよび属性推定攻撃に対して、合成 EHR はどの程度耐性があり、プライバシー保護の可能性を示しているか？
• RQ5 合成 EHR は、実データを効果的に補完でき、限定的な実データで学習したモデルを上回る性能を示すことができるか？

主な発見

• PromptEHR は、最良の既存ベースラインと比較して、平均で縦断的補完 perplexity（lpl）を 53.1% 低減し、時間的イベント系列のモデリング能力に優れていることを示している。
• PromptEHR は、平均でクロスモダリティ補完 perplexity（mpl）を 45.3% 低減し、診断と検査結果などの異なる EHR モダリティ間の関係をよりよく捉えていることを示している。
• 実データと組み合わせた場合、PromptEHR が生成した合成 EHR は、LSTM を用いた分類タスクで実 EHR と同等またはそれ以上の性能を示しており、50,000件の合成レコードと 30,000件の実レコードを組み合わせたモデルが、全 40,000件の実レコードで学習したモデルを上回っている。
• メンバーーシップ推定攻撃および属性推定攻撃に対して、モデルは頑健であることが示され、低いプライバシーリスクを示しているが、理論的保証については未解決の課題のままである。
• 低データ環境下でも、5,000件の実レコードでの学習で PromptEHR はベースラインの LSTM+MLP モデルを上回っており、一般化能力に優れており、リソースが限られた環境に適していることが示された。
• 完了型の条件付き生成（例：診断や検査結果の後に欠落している処置を生成）は、PromptEHR のみがサポートするユニークな機能であり、柔軟なプロンプトを用いることで、多様でリアルな EHR の合成が可能である。