[论文解读] Modeling Discrete Interventional Data using Directed Cyclic Graphical Models

Mark Schmidt, Kevin J. Murphy|arXiv (Cornell University)|May 9, 2012

Bayesian Modeling and Causal Inference参考文献 23被引用 31

一句话总结

本文提出了一种新颖的框架，用于使用有向循环图模型（D-CDGs）对离散干预数据进行建模，其中干预势函数全局归一化以表示干预和条件独立性。该方法通过组l1-正则化实现参数估计和结构学习的凸优化，展示了在模拟数据和流式细胞术数据上的优异性能。

ABSTRACT

We outline a representation for discrete multivariate distributions in terms of interventional potential functions that are globally normalized. This representation can be used to model the effects of interventions, and the independence properties encoded in this model can be represented as a directed graph that allows cycles. In addition to discussing inference and sampling with this representation, we give an exponential family parametrization that allows parameter estimation to be stated as a convex optimization problem; we also give a convex relaxation of the task of simultaneous parameter and structure learning using group l1-regularization. The model is evaluated on simulated data and intracellular flow cytometry data.

研究动机与目标

• 开发一种离散多变量分布的合理表示方法，以整合干预数据。
• 使用允许循环的有向图对干预下的条件独立性结构进行建模。
• 在存在干预的情况下，实现高效的推理、采样和参数估计。
• 通过指数族参数化将参数估计表述为凸优化问题。
• 通过组l1-正则化提供联合参数与结构学习的凸松弛。

提出的方法

• 使用全局归一化的干预势函数表示联合分布，以编码干预效应。
• 构建允许循环的有向图模型，以表示干预下的条件独立性特性。
• 采用势函数的指数族参数化，以确保估计过程的凸性。
• 使用凸优化从干预数据中估计模型参数。
• 在参数空间中应用组l1-正则化，以实现结构与参数的联合学习。
• 推导联合学习问题的凸松弛，使其计算上可行。

实验结果

研究问题

• RQ1 如何使用允许循环且编码干预效应的图模型表示离散干预数据？
• RQ2 全局归一化的势函数表示能否支持高效的推理与参数估计？
• RQ3 凸优化在干预模型参数估计中可被应用到何种程度？
• RQ4 组l1-正则化能否有效从未知干预数据中恢复潜在图结构？
• RQ5 所提出的模型在真实世界干预数据（如流式细胞术）上的表现如何？

主要发现

• 所提出的模型成功使用有向循环图表示干预数据，捕捉了复杂的依赖结构。
• 参数估计被表述为凸优化问题，实现了可靠且可扩展的学习。
• 组l1-正则化方法为联合结构与参数学习提供了凸松弛。
• 在模拟数据上的实证评估显示，模型能准确恢复潜在结构与干预效应。
• 在细胞内流式细胞术数据上，该模型在捕捉干预依赖关系方面优于基线方法。
• 该框架支持推理与采样，展示了在真实世界生物数据场景中的实际应用价值。