[論文レビュー] Continual learning of longitudinal health records

J. Armstrong, David W. Clifton|arXiv (Cornell University)|Dec 22, 2021

Domain Adaptation and Few-Shot Learning被引用数 4

ひとこと要約

この論文は、臨床的時系列設定における深刻な忘れの問題に対処するため、縦断的ICU患者データ上で継続的学習（CL）手法を評価する。その結果、特に連続するタスクの数が多い状況において、リプレイベースの手法が正則化手法よりも長期的な安定性に優れていることが判明した。

ABSTRACT

Continual learning denotes machine learning methods which can adapt to new environments while retaining and reusing knowledge gained from past experiences. Such methods address two issues encountered by models in non-stationary environments: ungeneralisability to new data, and the catastrophic forgetting of previous knowledge when retrained. This is a pervasive problem in clinical settings where patient data exhibits covariate shift not only between populations, but also continuously over time. However, while continual learning methods have seen nascent success in the imaging domain, they have been little applied to the multi-variate sequential data characteristic of critical care patient recordings. Here we evaluate a variety of continual learning methods on longitudinal ICU data in a series of representative healthcare scenarios. We find that while several methods mitigate short-term forgetting, domain shift remains a challenging problem over large series of tasks, with only replay based methods achieving stable long-term performance. Code for reproducing all experiments can be found at https://github.com/iacobo/continual

研究の動機と目的

• 進化する縦断的健康記録に基づいて学習される臨床機械学習モデルにおける深刻な忘れの問題に対処すること。
• 実世界のICU時系列データ上で、特に正則化とリプレイの両方を含むさまざまな継続的学習戦略の性能を評価すること。
• 多変量時系列EHRデータにおける時間的、地理的、患者の人口統計的要因に起因するドメインシフトを調査すること。
• データプライバシー制約や限られたストレージといった臨床的制約下でのCL手法の実現可能性と頑健性を評価すること。
• 実データセット（eICU-CRDおよびMIMIC-III）を用いた、集中治療分野における継続的学習の包括的ベンチマークを提供すること。

提案手法

• Elastic Weight Consolidation (EWC)、Knowledge Distillation (LwF)、および勾配ベース手法（GEM、A-GEM）を含む、複数の継続的学習戦略を、順次的なICUデータバッチ上で評価する。
• モデルを、異なる病院、時間帯、または患者の人口統計的要因を表す順次的なデータバッチで訓練するタスクインクリメンタルな設定を採用する。
• 収束を確保し、各手法間の公平な比較を可能にするために、各タスクで早期停止を実装する。
• 過去の例を格納する固定メモリバッファを用いたリプレイベース手法を実装し、正則化のみの手法と性能を比較する。
• 主な指標としてバランス精度を用い、統計的信頼性を評価するためにブートストラップを用いた95%信頼区間を適用する。
• 年齢、病棟、人種（広義）、病院、および時間（季節的／年次的）といった、複数のドメインシフトシナリオで実験を実施する。

実験結果

リサーチクエスチョン

• RQ1 ドメインシフトが増加する状況下で、正則化ベースの継続的学習手法は、リプレイベース手法と比較してどのように性能を示すか？
• RQ2 順次的かつ非定常な臨床データ上で学習する際、継続的学習戦略は深刻な忘れをどの程度軽減できるか？
• RQ3 実臨床環境において、10か所以上の病院を含む多数の連続タスクにおいて、継続的学習手法は安定した性能を維持できるか？
• RQ4 変数時系列医療データにおける、さまざまなモデルアーキテクチャ（例：Transformer、RNN）と継続的学習戦略の相互作用はいかなるものか？
• RQ5 データプライバシー制約が、臨床的継続的学習におけるリプレイベース手法の適用性に与える影響は何か？

主な発見

• LwFなどの正則化手法は、短いドメインシフトの系列（例：年齢、病棟、広義の人種）では優れた性能を示したが、タスク数の増加に伴い著しく性能が低下した。
• 病院ドメインシフトシナリオにおいて $ n \geq 5 $ タスクの場合、正則化手法の性能はナーブな微調整と同等にまで低下し、深刻な忘れを防げていないことが示された。
• リプレイベース手法、特に固定メモリバッファを用いた明示的リプレイは、すべてのドメインシフトシナリオで最高の性能を達成し、多数のタスクに対しても安定した性能を維持した。
• A-GEMおよびGEMは、病院間の不均一性が増す状況でも比較的安定した性能を示したが、正則化手法は初期タスクの分布に過剰適合することで高いばらつきを示した。
• $ n \geq 5 $ の場合、すべての手法が、すべてのデータを一度に学習する累積上限性能に達することができず、臨床的文脈における長期的継続的学習の難しさが浮き彫りになった。
• リハーサル手法は、メモリ容量が大きいほど性能が向上し、ストレージサイズがEHRデータにおける継続的学習の性能安定性に直接影響することを示した。