[论文解读] Learning Causality: Synthesis of Large-Scale Causal Networks from High-Dimensional Time Series Data

Mark-Oliver Stehr, Peter Avar+13 more|arXiv (Cornell University)|May 6, 2019

Computational Drug Discovery Methods参考文献 27被引用 5

一句话总结

本文提出了一种机器学习框架，用于从高维时间序列数据中合成大规模因果网络，利用孪生神经网络检测时间序列之间的概率因果关系。该方法结合高斯过程与抽象网络建模，推断转录组学数据中的因果关系，实现在系统生物学中机制作用分析的最小生物假设与高可扩展性，适用于复杂系统。

ABSTRACT

There is an abundance of complex dynamic systems that are critical to our daily lives and our society but that are hardly understood, and even with today's possibilities to sense and collect large amounts of experimental data, they are so complex and continuously evolving that it is unlikely that their dynamics will ever be understood in full detail. Nevertheless, through computational tools we can try to make the best possible use of the current technologies and available data. We believe that the most useful models will have to take into account the imbalance between system complexity and available data in the context of limited knowledge or multiple hypotheses. The complex system of biological cells is a prime example of such a system that is studied in systems biology and has motivated the methods presented in this paper. They were developed as part of the DARPA Rapid Threat Assessment (RTA) program, which is concerned with understanding of the mechanism of action (MoA) of toxins or drugs affecting human cells. Using a combination of Gaussian processes and abstract network modeling, we present three fundamentally different machine-learning-based approaches to learn causal relations and synthesize causal networks from high-dimensional time series data. While other types of data are available and have been analyzed and integrated in our RTA work, we focus on transcriptomics (that is gene expression) data obtained from high-throughput microarray experiments in this paper to illustrate capabilities and limitations of our algorithms. Our algorithms make different but overall relatively few biological assumptions, so that they are applicable to other types of biological data and potentially even to other complex systems that exhibit high dimensionality but are not of biological nature.

研究动机与目标

• 开发可扩展的、数据驱动的方法，用于从高维时间序列数据中推断因果网络，特别是在系统生物学领域。
• 通过最小化生物假设，同时最大化模型可解释性与可扩展性，应对数据有限与系统复杂性高的挑战。
• 通过从转录组学数据中合成因果网络，支持毒理学与药物反应中的作用机制（MoA）分析。
• 通过从观测数据中计算推断，支持假设生成与生物模型的迭代优化。
• 将适用范围扩展至生物学以外的领域，如金融市场与新闻网络，其中高维时间序列反映复杂系统动态。

提出的方法

• 利用孪生神经网络对时间序列对进行概率因果关系检测，学习区分因果与非因果关系。
• 采用高斯过程对非线性时间尺度建模，并生成合成时间序列数据，用于因果检测器的训练与验证。
• 应用卷积自编码器与生成对抗网络（GANs）学习底层数据分布，提升合成数据质量。
• 整合深度与宽层神经网络，预测系统状态的时序演化，并将其可视化为因果图。
• 在统一框架（JupyterFlow）中整合多种模型（如PCA、聚类及各类神经网络），实现端到端的网络合成。
• 基于高斯过程构建合成动态基因表达模型，用于训练与验证孪生网络的因果关系检测。

实验结果

研究问题

• RQ1 在样本有限且噪声高的高维时间序列数据中，如何可靠地检测概率因果关系？
• RQ2 在合成数据上训练的孪生神经网络，在真实世界转录组学数据中进行因果网络推断时，其泛化能力在多大程度上成立？
• RQ3 如何在最小化生物假设的前提下，实现因果网络合成，同时保持可解释性与可扩展性？
• RQ4 生成模型（如GANs）在提升合成数据真实感与准确性方面发挥何种作用，从而改善因果检测器的训练效果？
• RQ5 将局部因果关系检测与全局网络约束（如无环性、度分布）相结合，是否能提升整体网络质量？

主要发现

• 孪生神经网络方法成功在时间序列中以概率置信度检测因果关系，实现了从高维数据中合成大规模因果网络。
• 通过高斯过程生成的合成时间序列为因果检测提供了可靠且可扩展的训练信号，提升了模型泛化能力。
• 卷积GAN的集成显著提升了合成数据的真实性，从而提高了下游因果检测任务的性能。
• 该框架展现出强大的可迁移性，在非生物领域（如全球金融市场与新闻网络）已取得有前景的初步结果。
• 结合概率因果检测与全局网络约束可降低误报率，表明混合建模方法具有潜力。
• JupyterFlow框架实现了整个因果网络合成流程的模块化、可复现与可扩展实现，支持迭代优化与假设检验。