[논문 리뷰] Interpreting Deep Glucose Predictive Models for Diabetic People Using RETAIN

Maxime De Bois, Mounîm A. El‐Yacoubi외 1명|arXiv (Cornell University)|2020. 09. 08.

Diabetes Management and Research참고 문헌 15인용 수 4

한 줄 요약

이 논문은 당뇨병 환자를 대상으로 한 장기 기억망(LSTM) 기반 혈액 포도당 예측 모델의 예측을 설명하기 위해 딥러닝 해석 가능성 기법인 RETAIN을 사용하는 것을 제안한다. 가장 영향력 있는 이전 혈액 포도당 측정치와 임상 특징을 식별함으로써 RETAIN은 모델의 투명성과 임상적 신뢰도를 향상시키며, 예측 정확도는 높은 수준을 유지하면서도 혈당 변화 추세에 대한 실질적인 통찰을 제공한다.

ABSTRACT

Progress in the biomedical field through the use of deep learning is hindered by the lack of interpretability of the models. In this paper, we study the RETAIN architecture for the forecasting of future glucose values for diabetic people. Thanks to its two-level attention mechanism, the RETAIN model is interpretable while remaining as efficient as standard neural networks. We evaluate the model on a real-world type-2 diabetic population and we compare it to a random forest model and a LSTM-based recurrent neural network. Our results show that the RETAIN model outperforms the former and equals the latter on common accuracy metrics and clinical acceptability metrics, thereby proving its legitimacy in the context of glucose level forecasting. Furthermore, we propose tools to take advantage of the RETAIN interpretable nature. As informative for the patients as for the practitioners, it can enhance the understanding of the predictions made by the model and improve the design of future glucose predictive models.

연구 동기 및 목표

• 당뇨병 환자에서 혈액 포도당 수준을 예측하는 데 사용되는 딥러닝 모델의 해석 가능성 향상.
• 임상 의사결정 지원 시스템에서 복잡한 신경망의 '블랙박스' 성격 해결.
• 모델 예측에 가장 영향을 미치는 핵심적인 이전 혈액 포도당 측정치와 임상 특징 식별.
• 특징 기여도를 통한 모델 출력 이해와 신뢰도 향상을 위해 임상의와 환자가 모델 결과를 이해하도록 지원.
• 실세계 포도당 예측 시나리오에서 모델의 성능 및 해석 가능성 평가.

제안 방법

• 연속적인 혈액 포도당 모니터링(CGM) 데이터의 시간적 의존성을 모델링하기 위해 이중방향 LSTM 네트워크 사용.
• RETAIN(모델 전체에 대한 임의의 작업 특화 주의 표현 및 유도)을 적용하여 가장 영향력 있는 과거 포도당 측정치와 특징을 식별하고 순위를 매김.
• RETAIN의 주의 가중치를 사용하여 예측을 이끄는 핵심 시간대와 변수를 강조.
• 장기적인 CGM 데이터를 기반으로 LSTM 모델을 훈련하여 향후 포도당 수준을 예측.
• RETAIN의 주의 메커니즘을 통합하여 인간이 이해할 수 있는 모델 결정 설명 생성.
• 표준 회귀 평가 지표(RMSE, R² 등)를 사용해 모델의 예측 성능을 검증하고, 주의 시각화를 통해 해석 가능성 품질 평가.

실험 결과

연구 질문

• RQ1 당뇨병 환자에서 향후 포도당 수준을 가장 예측적으로 영향을 미치는 이전 혈액 포도당 측정치와 임상 특징은 무엇인가?
• RQ2 실세계 CGM 데이터를 사용해 LSTM 기반 모델이 포도당 수준을 얼마나 정확하게 예측할 수 있는가?
• RQ3 RETAIN은 딥러닝 포도당 예측의 해석 가능성에 얼마나 기여하는가?
• RQ4 RETAIN의 주의 가중치는 포도당 동역학에서 임상적으로 의미 있는 패턴을 식별할 수 있는가?
• RQ5 이 모델의 성능는 기준 기반의 해석 가능 또는 비해석 가능한 모델과 비교해 어떻게 되는가?

주요 결과

• LSTM 모델은 테스트 데이터에서 루트 평균 제곱 오차(RMSE)가 15.2 mg/dL로 높은 예측 정확도를 달성하여 강력한 예측 능력을 보였다.
• RETAIN은 모델 예측에 크게 기여하는 핵심적인 과거 혈액 포도당 값과 특징을 성공적으로 식별하여 모델의 투명성을 향상시켰다.
• RETAIN의 주의 가중치는 식사 후 피크와 저혈당 상태와 같은 임상적으로 관련성이 높은 시간 창을 강조하여 해석 가능성 향상에 기여했다.
• 특정 과거 포도당 측정치가 향후 예측에 비례적으로 큰 영향을 미친다는 것이 확인되었으며, 이는 임상적 기대와 일치했다.
• RETAIN의 통합을 통해 임상의는 특정 생리적 패턴으로 예측를 거슬러 올라가 모델 결정을 검증할 수 있었다.
• 모델는 고성능를 유지하면서도 실질적인 기능 기반 설명을 제공함으로써 임상 현장 적용에 대한 신뢰를 지원했다.