[论文解读] Continuous-Time Modeling of Counterfactual Outcomes Using Neural Controlled Differential Equations

Nabeel Seedat, Fergus Imrie+3 more|arXiv (Cornell University)|Jun 16, 2022

Machine Learning in Healthcare被引用 5

一句话总结

本文提出了治疗效应神经控制微分方程（TE-CDE），一种连续时间框架，利用神经控制微分方程对不规则采样临床数据和时变混杂因素进行反事实结果建模。在所有模拟场景中，TE-CDE 均优于现有方法，尤其在高混杂和稀疏采样条件下表现更优，通过学习患者状态的连续潜在轨迹，并采用对抗训练校正时变混杂因素。

ABSTRACT

Estimating counterfactual outcomes over time has the potential to unlock personalized healthcare by assisting decision-makers to answer ''what-iF'' questions. Existing causal inference approaches typically consider regular, discrete-time intervals between observations and treatment decisions and hence are unable to naturally model irregularly sampled data, which is the common setting in practice. To handle arbitrary observation patterns, we interpret the data as samples from an underlying continuous-time process and propose to model its latent trajectory explicitly using the mathematics of controlled differential equations. This leads to a new approach, the Treatment Effect Neural Controlled Differential Equation (TE-CDE), that allows the potential outcomes to be evaluated at any time point. In addition, adversarial training is used to adjust for time-dependent confounding which is critical in longitudinal settings and is an added challenge not encountered in conventional time-series. To assess solutions to this problem, we propose a controllable simulation environment based on a model of tumor growth for a range of scenarios with irregular sampling reflective of a variety of clinical scenarios. TE-CDE consistently outperforms existing approaches in all simulated scenarios with irregular sampling.

研究动机与目标

• 解决现有因果推断方法假设规则离散时间采样且无法建模临床环境中常见的不规则观测数据的局限性。
• 在连续时间下建模反事实结果，实现任意时间点的评估，而不仅限于观测时间点。
• 通过在连续时间框架内采用对抗训练，校正时变混杂因素——这在纵向医疗数据中至关重要。
• 开发一个真实、可控的肿瘤生长模拟环境，反映多样的临床采样模式和治疗策略。
• 在真实、不规则数据条件下，证明所提出的 TE-CDE 模型在反事实估计方面优于最先进基线方法。

提出的方法

• 患者潜在状态被建模为神经控制微分方程（CDE）的解，其中观测历史作为控制信号。
• CDE 框架实现了患者演变的连续建模，使得反事实结果可在任意时间点进行评估，而不仅限于观测时间点。
• 采用对抗训练通过学习对过去协变量下治疗分配不变的表示，以校正时变混杂因素。
• 基于肿瘤生长模型构建可控的模拟环境，生成具有不规则采样和不同治疗强度的合成数据，以反映现实世界的临床场景。
• 模型使用神经网络参数化 CDE 的漂移和扩散函数，实现对复杂患者轨迹的灵活且表达性强的建模。
• 通过在不同时间依赖性混杂程度和采样强度水平下，对反事实预测的归一化 RMSE 进行性能评估。

实验结果

研究问题

• RQ1 基于神经控制微分方程的连续时间模型是否能在不规则采样条件下，优于基于 RNN 的离散时间模型进行反事实估计？
• RQ2 与现有方法相比，TE-CDE 模型在纵向观察数据中处理时变混杂因素的效率如何？
• RQ3 当评估时间点与观测时间点不一致时，患者轨迹的连续建模是否能提高反事实预测的准确性？
• RQ4 在合成临床数据中，TE-CDE 对不同采样强度和治疗相关观测模式的鲁棒性如何？
• RQ5 对抗训练在多大程度上通过缓解时变混杂因素引起的偏差，提升纵向因果推断的性能？

主要发现

• 在所有模拟场景中，TE-CDE 的归一化 RMSE 最低，在 κ=10 且 γ=2 时均值为 0.78 ± 0.01，显著优于 CRN（1.31 ± 0.02）和 RMSN（1.60 ± 0.11）。
• 在高时变混杂因素条件下（γ=10），TE-CDE 仍保持强劲性能，κ=10 时 RMSE 为 3.03 ± 0.35，而 CRN 和 RMSN 的 RMSE 分别超过 4.8 和 5.4。
• 在治疗相关采样条件下（κ_treated=10，κ_untreated=1），TE-CDE 的总体 RMSE 为 1.18 ± 0.05，显著低于 CRN（1.57 ± 0.06）和 RMSN（3.06 ± 0.09）。
• 消融研究显示，即使使用线性 f 和 g 函数，模型仍保持合理性能（RMSE 下降 0.093 ± 0.056），表明 CDE 成分是性能提升的主要来源。
• GP 基线在所有条件下表现均较差，κ=10 且 γ=10 时 RMSE > 9.0，凸显了高斯过程在此场景下的局限性。
• 在扩展预测时间范围（t_k+3 至 t_k+5）的结果表明，TE-CDE 在所有时间范围内均保持一致的优越性，RMSE 稳定且较低。