[论文解读] Continual learning of longitudinal health records

J. Armstrong, David W. Clifton|arXiv (Cornell University)|Dec 22, 2021

Domain Adaptation and Few-Shot Learning被引用 4

一句话总结

本文在纵向重症监护病房（ICU）患者数据上评估持续学习（CL）方法，以解决临床时间序列设置中的灾难性遗忘问题。研究发现，在应对多种领域漂移时，基于回放的方法在长期稳定性方面优于正则化技术，尤其是在处理大量顺序任务时表现更优。

ABSTRACT

Continual learning denotes machine learning methods which can adapt to new environments while retaining and reusing knowledge gained from past experiences. Such methods address two issues encountered by models in non-stationary environments: ungeneralisability to new data, and the catastrophic forgetting of previous knowledge when retrained. This is a pervasive problem in clinical settings where patient data exhibits covariate shift not only between populations, but also continuously over time. However, while continual learning methods have seen nascent success in the imaging domain, they have been little applied to the multi-variate sequential data characteristic of critical care patient recordings. Here we evaluate a variety of continual learning methods on longitudinal ICU data in a series of representative healthcare scenarios. We find that while several methods mitigate short-term forgetting, domain shift remains a challenging problem over large series of tasks, with only replay based methods achieving stable long-term performance. Code for reproducing all experiments can be found at https://github.com/iacobo/continual

研究动机与目标

• 解决在随时间演变的纵向健康记录上训练的临床机器学习模型中的灾难性遗忘问题。
• 评估各种持续学习策略（尤其是正则化与回放方法）在真实世界ICU时间序列数据上的性能。
• 研究多变量序列电子健康记录（EHR）中随时间、地理和患者人口统计学特征变化的领域漂移。
• 评估在数据隐私和存储受限等临床约束条件下，CL方法的可行性和鲁棒性。
• 基于真实数据集（eICU-CRD 和 MIMIC-III）为重症监护中的持续学习提供全面基准。

提出的方法

• 在代表不同医院、时间段或患者人口统计学特征的连续ICU数据批次上，评估多种持续学习策略，包括弹性权重整合（EWC）、知识蒸馏（LwF）以及基于梯度的方法（GEM、A-GEM）。
• 采用任务增量设置，模型在按顺序的多个数据批次上进行训练。
• 为每个任务实施早停策略，以确保收敛并实现方法间的公平比较。
• 采用固定记忆缓冲区的回放方法存储过往样本，并与仅使用正则化的方案进行性能对比。
• 以平衡准确率为首要指标，并使用自 resampling 的 95% 置信区间评估统计可靠性。
• 在多种领域漂移场景下开展实验：年龄、病房、种族（广义分类）、医院以及时间（季节性/年度变化）

实验结果

研究问题

• RQ1 在不断增加的领域漂移下，基于正则化的持续学习方法与基于回放的方法在纵向ICU时间序列数据上的表现如何比较？
• RQ2 在顺序且非平稳的临床数据上训练时，持续学习策略在多大程度上能缓解灾难性遗忘？
• RQ3 在真实临床环境中，持续学习方法能否在大量顺序任务（如10家以上医院）中保持稳定性能？
• RQ4 不同模型架构（如Transformer、RNN）与多变量时间序列健康数据中的持续学习策略如何相互作用？
• RQ5 数据隐私约束对临床持续学习中回放方法适用性有何影响？

主要发现

• 正则化方法（如LwF）在短期领域漂移序列（如年龄、病房、广义种族）中表现良好，但随着任务数量增加，性能显著下降。
• 在医院领域漂移场景中，当 $ n \geq 5 $ 个任务时，正则化方法的性能不再优于简单的微调，表明其无法有效防止灾难性遗忘。
• 基于回放的方法，特别是采用固定记忆缓冲区的显式回放，无论在何种领域漂移场景下均取得最高性能，并在大量任务下仍保持稳定。
• A-GEM 和 GEM 在医院异质性增加时表现出相对稳定的性能，而正则化方法因对早期任务分布过拟合而表现出较高波动性。
• 当 $ n \geq 5 $ 时，没有任何方法能达到累积上界（即一次性训练全部数据）的性能水平，凸显了临床环境中长期持续学习的挑战。
• 回放方法的性能随记忆容量增大而提升，表明存储容量直接影响EHR数据持续学习中的性能稳定性。