[论文解读] Deep Multi-Output Forecasting: Learning to Accurately Predict Blood Glucose Trajectories

Ian Fox, Lynn Ang+3 more|PubMed|Jun 14, 2018

Diabetes Management and Research参考文献 21被引用 19

一句话总结

本文提出两种新颖的深度学习架构——SeqMO，一种具有显式时序依赖关系的多输出循环网络，以及PolySeqMO，一种多项式函数预测模型——以实现精准的多步血糖预测。通过联合建模未来的血糖轨迹并减少误差传播，该方法实现了4.87%的绝对百分比误差（APE），显著优于基线模型，表明多输出预测可同时提升多步与单步预测性能。

ABSTRACT

In many forecasting applications, it is valuable to predict not only the value of a signal at a certain time point in the future, but also the values leading up to that point. This is especially true in clinical applications, where the future state of the patient can be less important than the patient's overall trajectory. This requires multi-step forecasting, a forecasting variant where one aims to predict multiple values in the future simultaneously. Standard methods to accomplish this can propagate error from prediction to prediction, reducing quality over the long term. In light of these challenges, we propose multi-output deep architectures for multi-step forecasting in which we explicitly model the distribution of future values of the signal over a prediction horizon. We apply these techniques to the challenging and clinically relevant task of blood glucose forecasting. Through a series of experiments on a real-world dataset consisting of 550K blood glucose measurements, we demonstrate the effectiveness of our proposed approaches in capturing the underlying signal dynamics. Compared to existing shallow and deep methods, we find that our proposed approaches improve performance individually and capture complementary information, leading to a large improvement over the baseline when combined (4.87 <i>vs.</i> 5.31 absolute percentage error (APE)). Overall, the results suggest the efficacy of our proposed approach in predicting blood glucose level and multi-step forecasting more generally.

研究动机与目标

• 解决临床时间序列中递归多步预测的误差累积挑战。
• 通过建模联合未来分布的深度学习架构，提升血糖轨迹长期预测的准确性。
• 探究多输出预测是否可通过共享监督机制提升单输出预测性能。
• 开发并评估能够显式捕捉时序依赖关系与潜在信号动态的互补深度学习模型。
• 证明精准多步血糖预测在糖尿病管理与闭环胰岛素输送系统中的临床相关性。

提出的方法

• 提出SeqMO，一种多输出循环神经网络，通过在输出时间步之间建立显式连接来建模预测之间的时序依赖关系。
• 提出PolySeqMO，一种新型架构，通过学习潜在信号动态的多项式逼近来同时预测多个未来值。
• 使用带超参数 $ b_w $ 的加权损失函数，通过调整每步损失权重，灵活实现多输出与直接预测之间的过渡。
• 在包含550,000个来自1型糖尿病患者的真实世界血糖测量值的大规模数据集上训练模型。
• 通过模型集成结合SeqMO与PolySeqMO，以利用其互补优势并提升整体性能。
• 采用灵活的损失加权方案：$ w_{l,i} = \frac{b_w^{h-i}}{\sum_{i=0}^{h} b_w^{h-i}} $，实现从完全多输出到单输出预测的插值。

实验结果

研究问题

• RQ1 与递归预测方法相比，多输出深度学习架构是否能在多步血糖预测中减少误差累积？
• RQ2 与单步或自回归方法相比，建模未来血糖值的联合分布是否能提升长期预测准确性？
• RQ3 基于多项式的方法是否能有效捕捉血糖轨迹的潜在动态？
• RQ4 多输出预测在多大程度上能提升单输出预测任务的性能？
• RQ5 当通过集成方式结合时，互补的深度学习模型（SeqMO与PolySeqMO）表现如何？

主要发现

• 所提出的SeqMO与PolySeqMO模型在多步血糖预测中实现了4.87%的绝对百分比误差（APE），显著优于基线方法（5.31 APE）。
• 通过集成结合SeqMO与PolySeqMO，性能显著优于单一模型及现有的浅层或深层基线模型。
• 即使在单输出预测中，建模完整轨迹也能提升性能，最佳结果（7.58 APE）通过中间损失加权（$ b_w = 0.5 $）实现，该方法融合了多输出与直接预测。
• 10个不同随机种子的PolySeqMO模型集成在高血糖预测中优于随机森林基线（RF: MO）（8.13 vs. 8.20 APE），证明了模型集成在多输出学习中的优势。
• 多输出方法在极端血糖波动情况下表现更优，将APE从基线的13.34降低至12.05，表明其在高风险场景下的鲁棒性。
• 结果表明，即使最终仅需预测单个未来值，多输出预测也能提供额外监督，从而增强泛化能力。