[논문 리뷰] Predicting the impact of treatments over time with uncertainty aware neural differential equations

Edward De Brouwer, Javier González Hernández외 1명|arXiv (Cornell University)|2022. 02. 24.

Advanced Causal Inference Techniques인용 수 5

한 줄 요약

이 논문은 비정규적으로 샘플링된 관찰 데이터에서 연속 시간 동안 개인 치료 효과를 예측하기 위해 불확실성 인식 추론을 갖춘 신경 미분방정식 모델인 CF-ODE를 제안한다. 잠재 확률적 미분방정식을 통해 매개변수의 불확실성을 모델링함으로써 CF-ODE는 치료 결과 예측이 신뢰할 수 있는지 식별할 수 있는 신뢰할 수 있는 불확실성 추정치를 제공하며, 임상 시계열 기준 평가에서 정확도와 불확실성 캘리브레이션 측면에서 이전 방법들을 능가한다.

ABSTRACT

Predicting the impact of treatments from observational data only still represents a majorchallenge despite recent significant advances in time series modeling. Treatment assignments are usually correlated with the predictors of the response, resulting in a lack of data support for counterfactual predictions and therefore in poor quality estimates. Developments in causal inference have lead to methods addressing this confounding by requiring a minimum level of overlap. However,overlap is difficult to assess and usually notsatisfied in practice. In this work, we propose Counterfactual ODE (CF-ODE), a novel method to predict the impact of treatments continuously over time using Neural Ordinary Differential Equations equipped with uncertainty estimates. This allows to specifically assess which treatment outcomes can be reliably predicted. We demonstrate over several longitudinal data sets that CF-ODE provides more accurate predictions and more reliable uncertainty estimates than previously available methods.

연구 동기 및 목표

• 관찰된 비정규적으로 샘플링된 임상 데이터로부터 시간에 따른 개인 치료 효과를 예측하는 데 도전하는 것.
• 제약 조건이 강한 오버랩 가정에 의존하지 않고 치료 효과 예측의 불확실성을 모델링하여 관찰 데이터에서의 혼동 요인을 극복하는 것.
• 임의의 시간점에서의 반사적 예측을 지원하는 연속 시간 모델을 개발하는 것.
• 신뢰할 수 있는 임상 의사결정 지원을 위해 신경 ODE에 불확실성 측정을 통합하는 것.
• 실제 종단적 데이터셋에서 최신 기술 대비 향상된 성능과 신뢰할 수 있는 불확실성 추정치를 입증하는 것.

제안 방법

• CF-ODE는 잠재 신경 확률적 미분방정식(Stochastic Differential Equation, SDE)으로 공식화되어 신경 ODE 매개변수에 대한 사후분포를 모델링함으로써 불확실성 인식 예측을 가능하게 한다.
• 최근 베이지안 신경 ODE 분야의 발전을 활용하여 변분 추론을 통해 ODE 가중치에 대한 사후분포를 근사한다.
• 불확실성이 ODE의 잠재공간에 인코딩되어 있어, 치료 예측자 공간의 영역에서 데이터 부족성과 혼동 요인을 반영할 수 있다.
• 이 프레임워크는 비정규적으로 샘플링된 임상 시계열을 수용할 수 있도록 연속 시간 예측을 지원한다.
• 반사적 결과는 이전 궤적에 조건을 주고 특정 시간에 치료 간섭을 적용함으로써 ODE를 통해 예측된다.
• 불확실성 인식 정규화를 갖춘 가능도 기반 최적화를 통해 엔드 투 엔드로 모델을 훈련시킨다.

실험 결과

연구 질문

• RQ1 불확실성 측정이 통합된 신경 ODE 모델이 관찰 데이터에서 연속 시간 동안 반사적 치료 결과를 신뢰성 있게 예측할 수 있는가?
• RQ2 CF-ODE의 불확실성 추정은 혼동 또는 데이터 부족으로 인해 예측이 신뢰할 수 없는 치료 예측자 공간의 영역을 어떻게 식별하는가?
• RQ3 불확실성 통합이 표준 신경 ODE 또는 원인 분석 모델 대비 개인 치료 효과 예측의 신뢰성과 정확도를 향상시키는가?
• RQ4 CF-ODE는 치료군과 대조군 간 오버랩이 제한되고 비정규적으로 샘플링된 실세계 임상 시계열 데이터에 잘 일반화되는가?
• RQ5 CF-ODE에서 도출된 불확실성 추정치는 모델 예측이 신뢰할 수 없을 때를 식별함으로써 임상 의사결정 지원에 도움을 줄 수 있는가?

주요 결과

• CF-ODE는 종단적 임상 데이터셋에서 기존 최신 기술 대비 시간에 따른 치료 효과 예측이 더 정확하다.
• CF-ODE가 생성하는 불확실성 추정치는 치료 효과 추정 오차를 안정적으로 인코딩하며, 데이터 지원이 낮거나 오버랩이 불량한 영역에서 높은 불확실성을 관찰할 수 있다.
• CF-ODE는 강한 혼동 요인과 비정규 샘플링이 존재하는 상황에서도 예측 정확도와 불확실성 캘리브레이션 측면에서 베이스라인 모델을 능가한다.
• 모델은 치료 효과 예측이 신뢰할 수 없는 환자를 성공적으로 식별하여 임상 의사결정 지원 시스템에서의 안전한 구현을 가능하게 한다.
• 잠재 SDE를 통한 불확실성 통합은 MCMC와 같이 계산 비용이 큰 방법에 의존하지 않고도 탄력적이고 효율적인 사후 근사가 가능하게 한다.
• 실험 결과는 불확실성 인식 예측이 모델 출력에 대한 신뢰도를 향상시켜 임상 환경에서 인간-AI 협업을 지원함을 입증한다.