[論文レビュー] Two-stage Federated Phenotyping and Patient Representation Learning

Dianbo Liu, Dmitriy Dligach+1 more|arXiv (Cornell University)|Aug 14, 2019

Machine Learning in Healthcare参考文献 21被引用数 7

ひとこと要約

本論文は、複数の医療機関間で生データを共有せずに、患者表現モデルと表現分類器の共同学習を可能にする二段階のフェデレーテッドラーニングフレームワークを提案する。MIMIC-IIIにおけるフェデレーテッド表現学習とi2b2におけるフェデレーテッド表現分類に基づき、中央集権的学習と同等のF1スコア0.724を達成した。これは、医療NLP分野における一般化性能の向上とプライバシー保護型の知識共有の有効性を示している。

ABSTRACT

A large percentage of medical information is in unstructured text format in electronic medical record systems. Manual extraction of information from clinical notes is extremely time consuming. Natural language processing has been widely used in recent years for automatic information extraction from medical texts. However, algorithms trained on data from a single healthcare provider are not generalizable and error-prone due to the heterogeneity and uniqueness of medical documents. We develop a two-stage federated natural language processing method that enables utilization of clinical notes from different hospitals or clinics without moving the data, and demonstrate its performance using obesity and comorbities phenotyping as medical task. This approach not only improves the quality of a specific clinical task but also facilitates knowledge progression in the whole healthcare system, which is an essential part of learning health system. To the best of our knowledge, this is the first application of federated machine learning in clinical NLP.

研究の動機と目的

• ラベル付きデータが限られ、機関ごとに断片化されている状況において、正確な臨床NLPモデルを訓練する課題に対処すること。
• 生臨床ノートを移動または集約せずに、患者表現と表現分類器の共同学習を可能にすること。
• 患者データのプライバシーを保護しながら、フェデレーテッド転移学習を用いて表現分類性能を向上させること。
• 非構造化臨床テキスト解析におけるフェデレーテッドマシンラーニングの実現可能性と有効性を示すこと。

提案手法

• 本手法は二段階のフェデレーテッドラーニングパイプラインを採用する：まず、匿名化された臨床ノートを用いて複数の機関で教師あり患者表現学習が行われる。
• 第一段階では、10のスイーパに分割されたMIMIC-IIIデータ上で、臨床概念（CUI）を用いて密度の高い患者埋め込みを学習する。
• 第二段階では、これらの学習済み表現を入力特徴として用い、3つのスイーパに分割されたi2b2データ上で表現分類器を訓練する。
• フレームワークは、生データを送信せずにグローバルモデル重みを更新するためのFedAvgスタイルの集約を用いる。これによりプライバシーが保証される。
• 入力としてCUIベースの特徴が用いられるが、本アプローチは生テキストへの拡張も可能である。
• 性能は、両段階で中央集権的学習とフェデレーテッドラーニングを比較する7つの実験設定で評価された。

実験結果

リサーチクエスチョン

• RQ1 生データを共有せずに、表現分類のような臨床NLPタスクにフェデレーテッドラーニングを効果的に適用できるか？
• RQ2 フェデレーテッド患者表現学習は、単一機関での学習と比較して、下流の表現分類性能を向上させるか？
• RQ3 完全にフェデレーテッドな二段階パイプラインの性能は、中央集権的学習と比較してF1スコアおよびモデルの頑健性の観点でどの程度差があるか？
• RQ4 大規模かつ多様なデータセット（MIMIC-III）からの転移学習が、フェデレーテッド環境下での表現分類精度をどの程度向上させるか？
• RQ5 ラベル付きデータが限られ、分散している状況において、フェデレーテッドラーニングはデータ不足と非同一性の課題を克服できるか？

主な発見

• 完全にフェデレーテッドな二段階手法は、i2b2の肥満および共存疾患表現分類タスクでF1スコア0.724を達成し、中央集権的ベースラインの0.714に非常に近い結果を得た。
• 3つのi2b2サイトでフェデレーテッド表現分類学習を実施した結果（F1=0.632）は、単一機関での学習（F1=0.542）を著しく上回り、中央集権的性能に一致した。
• MIMIC-IIIでフェデレーテッド表現学習を実施後、中央集権的表現分類を実施することでF1が0.714に向上し、分散環境下での転移学習の有効性を裏付けた。
• 複数回のランダムなデータ分割とモデル初期化において、完全にフェデレーテッドアプローチの性能は中央集権的ベースラインと統計的に差がなかった。
• 「疑わしい」症例の数が3クラス分類に十分でない場合、タスクは2クラス分類に縮小されたが、その結果は元のi2b2チャレンジと同等の水準であった。
• 本研究は、フェデレーテッドラーニングが臨床NLPにおいて実現可能かつ有効であることを、初めて実証した。これにより、医療機関間でプライバシー保護型の共同モデル開発が可能になった。