[논문 리뷰] Convolutional Recurrent Neural Networks for Glucose Prediction

Kezhi Li, John Daniels외 3명|arXiv (Cornell University)|2018. 07. 09.

Diabetes Management and Research참고 문헌 50인용 수 15

한 줄 요약

이 논문은 연속 혈액 포도당 모니터링(CGM), 식사 및 인슐린 데이터를 사용하여 제1형 당뇨병 환자에서 정확한 혈액 포도당(BG) 예측을 위한 1차원 컨volutional 순환 신경망(CRNN)을 제안한다. 이 모델은 특징 추출을 위한 1D 컨볼루션 레이어와 시퀀스 모델링을 위한 양방향 LSTM 레이어를 조합하여, 시뮬레이션에서 30분 예측 수준에서 RMSE 9.38 ± 0.71 mg/dL의 최신 기술 수준(SOTA) 성능을 달성했으며, 실생활 데이터에서는 21.07 ± 2.35 mg/dL의 성능을 보였다. 또한 스마트폰에서 실시간 추론을 6ms 내로 구현하였다.

ABSTRACT

Control of blood glucose is essential for diabetes management. Current digital therapeutic approaches for subjects with Type 1 diabetes mellitus (T1DM) such as the artificial pancreas and insulin bolus calculators leverage machine learning techniques for predicting subcutaneous glucose for improved control. Deep learning has recently been applied in healthcare and medical research to achieve state-of-the-art results in a range of tasks including disease diagnosis, and patient state prediction among others. In this work, we present a deep learning model that is capable of forecasting glucose levels with leading accuracy for simulated patient cases (RMSE = 9.38$\pm$0.71 [mg/dL] over a 30-minute horizon, RMSE = 18.87$\pm$2.25 [mg/dL] over a 60-minute horizon) and real patient cases (RMSE = 21.07$\pm$2.35 [mg/dL] for 30-minute, RMSE = 33.27$\pm$4.79\% for 60-minute). In addition, the model provides competitive performance in providing effective prediction horizon ($PH_{eff}$) with minimal time lag both in a simulated patient dataset ($PH_{eff}$ = 29.0$\pm$0.7 for 30-min and $PH_{eff}$ = 49.8$\pm$2.9 for 60-min) and in a real patient dataset ($PH_{eff}$ = 19.3$\pm$3.1 for 30-min and $PH_{eff}$ = 29.3$\pm$9.4 for 60-min). This approach is evaluated on a dataset of 10 simulated cases generated from the UVa/Padova simulator and a clinical dataset of 10 real cases each containing glucose readings, insulin bolus, and meal (carbohydrate) data. Performance of the recurrent convolutional neural network is benchmarked against four algorithms. The proposed algorithm is implemented on an Android mobile phone, with an execution time of $6$ms on a phone compared to an execution time of $780$ms on a laptop.

연구 동기 및 목표

• CGM, 식사 및 인슐린 데이터의 복잡한 비선형 관계를 모델링하기 위해 딥러닝을 활용하여 제1형 당뇨병 환자에서 포도당 예측 정확도를 향상시키는 것.
• 자원 제약이 있는 모바일 플랫폼에 배포 가능한 개인화된 실시간 예측 모델을 개발하는 것.
• 수작업으로 만든 특징에 의존하고 장기적인 시간적 의존성을 다루기 어려운 전통적인 머신러닝 모델의 한계를 해결하는 것.
• 모델의 강건성과 임상적 관련성을 확보하기 위해 시뮬레이션 및 실제 환자 데이터셋 모두에서 평가하는 것.

제안 방법

• CRNN 아키텍처는 포도당, 식사 및 인슐린 데이터의 다차원 시계열 데이터로부터 시간적 특징을 추출하기 위해 가우시안 커널 필터와 최대 풀링 레이어를 갖춘 1D 컨volutional 신경망(CNN)을 사용한다.
• 추출된 특징을 처리하기 위해 양방향 장기 단기 기억(LSTM) 네트워크가 순차적 데이터의 장거리 의존성을 모델링한다.
• CGM, 탄수화물 및 인슐린 데이터의 시간에 맞춰진 입력 시퀀스를 사용하여 평균 제곱오차(MSE) 손실을 기반으로 엔드 투 엔드로 모델을 훈련시킨다.
• 완전 연결 회귀 헤드가 최종 포도당 예측 출력을 생성한다.
• 모델는 효율적인 모바일 기기 배포를 위해 텐서플로우 라이트(TensorFlow Lite) 형식으로 변환된다.
• 개별 환자 데이터로 훈련함으로써 모델 개인화를 달성하고, 지속적인 온라인 업데이트를 통한 개별화된 예측을 가능하게 한다.

실험 결과

연구 질문

• RQ1 CNN과 RNN 아키텍처를 조합한 딥러닝 모델이 제1형 당뇨병 환자에서 혈액 포도당 수준을 예측하는 데 있어 전통적인 머신러닝 방법을 능가할 수 있는가?
• RQ2 제안된 CRNN 모델은 시뮬레이션 및 실제 임상 데이터셋 모두에서 예측 정확도와 효과적 예측 수준(PHeff) 측면에서 어떻게 성능을 보이는가?
• RQ3 CRNN 모델은 최소한의 추론 지연을 유지하면서도 스마트폰에서 효율적으로 배포될 수 있는가?
• RQ4 더 긴 예측 수준에서 저혈당 사건 예측에 대한 성능 저하 정도가 고혈당 사건 예측보다 더 심각한가?

주요 결과

• 시뮬레이션 케이스에서 CRNN는 30분 예측 수준에서 RMSE 9.38 ± 0.71 mg/dL를 달성했으며, SVR 및 NNPG를 포함한 벤치마크 모델들을 능가했다.
• 실제 환자 데이터에서는 30분 예측에서 RMSE 21.07 ± 2.35 mg/dL, 60분 예측에서 RMSE 33.27 ± 4.79 mg/dL를 기록했다.
• 시뮬레이션 데이터에서 30분 예측에 대해 29.0 ± 0.7분의 높은 효과적 예측 수준(PHeff)을 보였고, 60분 예측에 대해서는 49.8 ± 2.9분을 기록했다.
• 실제 환자 데이터에서는 30분 예측에 대해 PHeff가 19.3 ± 3.1분, 60분 예측에 대해 29.3 ± 9.4분으로 나타나 강력한 시간적 일반화 능력을 보였다.
• 안드로이드 스마트폰(LG Nexus 5)에서 6ms의 추론 시간을 확보하여 노트북의 780ms 대비 훨씬 빠른 성능을 보였으며, 실시간 임상 적용이 가능했다.
• 장기 예측 수준에서 저혈당 예측 성능 저하가 고혈당 예측보다 더 두드러졌으며, 이는 향후 사건 모델링을 통합할 필요성을 시사한다.