[論文レビュー] Deep Multi-Output Forecasting: Learning to Accurately Predict Blood Glucose Trajectories

Ian Fox, Lynn Ang+3 more|PubMed|Jun 14, 2018

Diabetes Management and Research参考文献 21被引用数 19

ひとこと要約

本論文は、明示的な時系列依存性を持つ多出力再帰型ネットワークであるSeqMOと、多項式関数予測モデルであるPolySeqMOの2つの新規ディープラーニングアーキテクチャを提案する。これらの手法は、将来のグルコース推移を同時にモデリングし、誤差伝播を低減することで、4.87%の絶対誤差率（APE）を達成し、ベースラインモデルを著しく上回る。多出力予測が多段階予測および単一ステップ予測の両方の性能を向上させることを示している。

ABSTRACT

In many forecasting applications, it is valuable to predict not only the value of a signal at a certain time point in the future, but also the values leading up to that point. This is especially true in clinical applications, where the future state of the patient can be less important than the patient's overall trajectory. This requires multi-step forecasting, a forecasting variant where one aims to predict multiple values in the future simultaneously. Standard methods to accomplish this can propagate error from prediction to prediction, reducing quality over the long term. In light of these challenges, we propose multi-output deep architectures for multi-step forecasting in which we explicitly model the distribution of future values of the signal over a prediction horizon. We apply these techniques to the challenging and clinically relevant task of blood glucose forecasting. Through a series of experiments on a real-world dataset consisting of 550K blood glucose measurements, we demonstrate the effectiveness of our proposed approaches in capturing the underlying signal dynamics. Compared to existing shallow and deep methods, we find that our proposed approaches improve performance individually and capture complementary information, leading to a large improvement over the baseline when combined (4.87 <i>vs.</i> 5.31 absolute percentage error (APE)). Overall, the results suggest the efficacy of our proposed approach in predicting blood glucose level and multi-step forecasting more generally.

研究の動機と目的

• 臨床的時間系列における再帰的多段階予測における誤差蓄積の課題に対処する。
• 将来のグルコース推移の結合分布をモデリングするディープラーニングアーキテクチャを用いて、長期的な予測精度を向上させる。
• 多出力予測が共有の監視を通じて単一出力予測の性能を向上させることを検証する。
• 時間的依存性および下位信号ダイナミクスを明示的に捉える補完的ディープラーニングモデルを開発・評価する。
• 正確な多段階グルコース予測の臨床的意義が、糖尿病管理およびクローズドループインスリン投与システムにおいてどのように示されるかを提示する。

提案手法

• 出力時系列ステップ間の明示的接続を用いて、予測間の時間的依存性をモデル化する多出力再帰型ニューラルネットワーク、SeqMOを提案する。
• 将来の複数値を同時に予測するため、信号ダイナミクスの多項式近似を学習する新規アーキテクチャ、PolySeqMOを導入する。
• 各ステップの損失重みを調整することで、多出力と直接予測の間を柔軟に遷移できるように、ハイパーパrameter $ b_w $ を用いた重み付き損失関数を用いる。
• 1型糖尿病患者から得た55万件の実世界グルコース測定データを用いてモデルを学習する。
• SeqMOとPolySeqMOをアンサンブル化することで、相補的な強みを活かし、全体の性能を向上させる。
• 柔軟な損失重み付けスキームを適用する：$ w_{l,i} = \frac{b_w^{h-i}}{\sum_{i=0}^{h} b_w^{h-i}} $。これにより、完全な多出力予測と単一出力予測の間を補間可能となる。

実験結果

リサーチクエスチョン

• RQ1 多出力ディープラーニングアーキテクチャは、再帰的予測手法と比較して、多段階グルコース予測における誤差蓄積を低減できるか？
• RQ2 将来グルコース値の結合分布をモデリングすることは、単一ステップまたは自己回帰的手法と比較して、長期的予測精度を向上させるか？
• RQ3 多項式ベースの関数予測アプローチは、グルコース推移の下位ダイナミクスを効果的に捉えることができるか？
• RQ4 多出力予測は、単一出力予測タスクにおける性能をどの程度向上させるか？
• RQ5 補完的ディープラーニングモデル（SeqMOとPolySeqMO）をアンサンブル化することで、どのように性能を発揮するか？

主な発見

• 提案されたSeqMOおよびPolySeqMOモデルは、多段階グルコース予測において4.87%の絶対誤差率（APE）を達成し、ベースライン手法（5.31 APE）を著しく上回る。
• SeqMOとPolySeqMOのアンサンブル化により、個々のモデルや既存の浅い・深いベースラインを上回る顕著な性能向上が得られた。
• 単一出力予測でも、全推移をモデリングすることで性能が向上し、中間の損失重み付け（$ b_w = 0.5 $）が多出力と直接予測を融合させた場合に最良の結果（7.58 APE）を達成した。
• 異なるランダムシードを用いた10個のPolySeqMOモデルのアンサンブルは、ランダムフォレストベースライン（RF: MO）を上回り、高血糖予測において8.13 vs. 8.20 APEを記録した。これは、多出力学習におけるアンサンブル化の利点を示している。
• 極端なグルコース変動に対して、多出力アプローチは誤差率を13.34（ベースライン）から12.05に低減させ、高リスク状況でも高いロバストネスを示した。
• 結果から、多出力予測は、最終的に単一の未来値のみが必要であっても、一般化性能を向上させる追加の監視信号を提供することが示唆された。