[论文解读] Deep Kalman Filters

Rahul G. Krishnan, Uri Shalit+1 more|arXiv (Cornell University)|Nov 16, 2015

Machine Learning in Healthcare参考文献 27被引用 142

一句话总结

本文提出深度卡尔曼滤波器（Deep Kalman Filters），一种基于变分推断的框架，利用深度神经网络学习序列数据的非线性状态空间模型。该方法可在复杂、噪声环境中实现有效的反事实推断——在合成的“愈合MNIST”数据和真实的电子健康记录（EHR）数据上进行了验证，结果表明在模拟干预下，抗糖尿病药物显著降低了糖尿病患者的A1c和葡萄糖水平。

ABSTRACT

Kalman Filters are one of the most influential models of time-varying phenomena. They admit an intuitive probabilistic interpretation, have a simple functional form, and enjoy widespread adoption in a variety of disciplines. Motivated by recent variational methods for learning deep generative models, we introduce a unified algorithm to efficiently learn a broad spectrum of Kalman filters. Of particular interest is the use of temporal generative models for counterfactual inference. We investigate the efficacy of such models for counterfactual inference, and to that end we introduce the "Healing MNIST" dataset where long-term structure, noise and actions are applied to sequences of digits. We show the efficacy of our method for modeling this dataset. We further show how our model can be used for counterfactual inference for patients, based on electronic health record data of 8,000 patients over 4.5 years.

研究动机与目标

• 开发一种统一且可扩展的方法，利用深度神经网络与变分推断学习复杂、非线性的卡尔曼滤波器。
• 实现在纵向数据中进行反事实推断，特别是在医疗环境中，每个患者仅观测到一种干预结果的情况下。
• 利用噪声大、高维的EHR数据，建模患者状态在现实干预（如药物处方）下的潜在演化过程。
• 评估不同识别模型与模型架构对序列建模与反事实预测性能的影响。
• 展示连续状态空间模型在纵向医疗数据因果推断中的实用性。

提出的方法

• 提出一种变分推断框架，以优化观测序列对数似然的下界，实现深度非线性卡尔曼滤波器的端到端训练。
• 使用深度神经网络参数化转移函数Gα、发射函数Fκ和观测似然，实现灵活的非线性动态建模。
• 采用识别模型（如q-BRNN）推断潜在状态的后验分布，实现高效的近似推断。
• 通过将实验室指标变量设为1来应用Pearl的do-算子，模拟干预情景。
• 对发射噪声使用固定的对角协方差矩阵Sβ，简化推断过程，同时保持模型灵活性。
• 在合成数据（愈合MNIST）和来自8,000名糖尿病患者、历时4.5年的真实EHR数据上进行模型训练。

实验结果

研究问题

• RQ1 能否将深度神经网络与卡尔曼滤波器有效结合，以建模高维序列数据中复杂、非线性的时序动态？
• RQ2 在缺乏其他干预结果观测的情况下，所提模型在反事实推断中的表现如何？
• RQ3 该模型是否能捕捉扰动序列数据（如旋转或加噪的MNIST数字）中的长程依赖与结构不变性？
• RQ4 能否利用真实EHR数据准确估计抗糖尿病药物对A1c和葡萄糖水平等患者结局的因果效应？
• RQ5 不同模型架构（线性与非线性转移/发射函数）对序列建模与反事实预测性能有何影响？

主要发现

• 采用非线性转移与发射函数的模型在测试对数似然上表现最佳，优于线性模型及仅非线性发射函数的变体。
• 在愈合MNIST数据集上，模型成功捕捉了施加操作（如旋转与噪声）对数字序列的短程与长程影响。
• 在EHR场景中，未接受抗糖尿病药物（二甲双胍）的患者在干预后更可能具有高A1c水平（>8%）和高葡萄糖水平，反事实采样结果表明了这一点。
• 在“无”条件下，高血糖水平患者的占比从约20%上升至约60%，相比“有”二甲双胍条件。
• 模型在噪声大、高维的EHR数据中对潜在状态的推断表现出鲁棒性，支持可靠的反事实比较。
• 采用参数化后验分布（q-BRNN）实现了准确的后验近似，并在不同干预条件下实现了有效的前向采样。