[论文解读] Patient trajectory prediction in the Mimic-III dataset, challenges and pitfalls

José F. Rodrigues, Gabriel Spadon+2 more|arXiv (Cornell University)|Sep 10, 2019

Machine Learning in Healthcare参考文献 25被引用 7

一句话总结

本论文提出了一种深度学习模型 LIG-Doctor，采用并行双向最小门控循环单元（MGRUs）对 Mimic-III 数据集中的患者轨迹进行预测。通过使用粒度较低的 ICD-9 编码（HCUP-CCS），该模型在低基数和高数据粒度的临床记录挑战下，实现了 Recall@k 的最先进性能。

ABSTRACT

Automated medical prognosis has gained interest as artificial intelligence evolves and the potential for computer-aided medicine becomes evident. Nevertheless, it is challenging to design an effective system that, given a patient's medical history, is able to predict probable future conditions. Previous works, mostly carried out over private datasets, have tackled the problem by using artificial neural network architectures that cannot deal with low-cardinality datasets, or by means of non-generalizable inference approaches. We introduce a Deep Learning architecture whose design results from an intensive experimental process. The final architecture is based on two parallel Minimal Gated Recurrent Unit networks working in bi-directional manner, which was extensively tested with the open-access Mimic-III dataset. Our results demonstrate significant improvements in automated medical prognosis, as measured with Recall@k. We summarize our experience as a set of relevant insights for the design of Deep Learning architectures. Our work improves the performance of computer-aided medicine and can serve as a guide in designing artificial neural networks used in prediction tasks.

研究动机与目标

• 解决利用深度学习从纵向电子健康记录（EHRs）中预测未来患者诊断的挑战。
• 克服现有模型在 Mimic-III 等低基数、高度粒化的数据集上表现不佳的局限性。
• 识别临床环境中序列到序列预测的最优架构选择与超参数。
• 提供一种可复现的、开源的方法论，用于使用公开数据进行患者轨迹预测。
• 通过识别设计临床预后深度学习模型时的陷阱与最佳实践，为未来研究提供指导。

提出的方法

• 使用 HCUP-CCS 分类对 Mimic-III 的 ICD-9 编码进行预处理，以降低粒度并提升模型泛化能力。
• 设计一种双分支、双向架构，采用最小门控循环单元（MGRUs），以高效捕捉时间依赖性。
• 采用序列到序列的目标进行模型训练，以 Recall@k 为主要评估指标进行优化。
• 广泛比较多种 RNN 变体（LSTM、GRU、MGRU）及架构配置，以识别最优性能。
• 采用标准深度学习技术，包括 Dropout、学习率调度和早停法，以防止过拟合。
• 在相同设置和代码下，与最先进基线方法（包括 Choi 等，2016 年）进行结果验证。

实验结果

研究问题

• RQ1 在低基数、高粒度的 Mimic-III 数据集上，不同 RNN 架构（LSTM、GRU、MGRU）的表现如何？
• RQ2 在 RNN 中堆叠多层是否能提升患者轨迹预测的性能？
• RQ3 相较于原始 ICD-9 编码，使用粒度更低的疾病编码方案（HCUP-CCS）是否能显著提升模型性能？
• RQ4 在门控复杂度方面，哪些架构选择能为临床序列预测带来最佳结果？
• RQ5 在相同基准上，所提出的模型与现有最先进方法在 Recall@k 指标上的表现如何比较？

主要发现

• 基于 MGRU 的模型在相同设置和评估指标下，优于现有最先进方法，包括 Choi 等（2016 年）的方法。
• 在 RNN 中堆叠多层会降低性能，因此采用单层架构以获得最佳结果。
• 门控更简单的 MGRU 单元在性能上与或优于更复杂的变体（如 LSTM 和 GRU），挑战了关于门控必要性的理论假设。
• 与原始 ICD-9 相比，使用 HCUP-CCS 编码显著提升了模型性能，后者在 Mimic-III 的规模下被认为粒度过细，不利于有效学习。
• 并行双向 MGRU 设计表现出极高有效性，提示未来可进一步探索更专用的并行分支结构。
• 本研究强调，在数据基数较低的情况下，高模型复杂度并不保证在临床序列建模中取得更好性能。