[论文解读] Learning Causal Representations of Single Cells via Sparse Mechanism Shift Modeling

Romain Lopez, Nataša Tagasovska+4 more|arXiv (Cornell University)|Nov 7, 2022

Single-cell and spatial transcriptomics被引用 13

一句话总结

本文提出了一种稀疏变分自编码器（sVAE），利用单细胞RNA测序数据中的遗传和化学扰动，学习解耦的、具有因果可解释性的潜在表征。通过将干预建模为潜在变量中的稀疏偏移，并利用非平稳数据，sVAE在潜在变量恢复、因果目标识别和分布外泛化方面均优于基线方法，其有效性已在使用scvi-tools库构建的模拟和真实世界扰动数据集上得到验证。

ABSTRACT

Latent variable models such as the Variational Auto-Encoder (VAE) have become a go-to tool for analyzing biological data, especially in the field of single-cell genomics. One remaining challenge is the interpretability of latent variables as biological processes that define a cell's identity. Outside of biological applications, this problem is commonly referred to as learning disentangled representations. Although several disentanglement-promoting variants of the VAE were introduced, and applied to single-cell genomics data, this task has been shown to be infeasible from independent and identically distributed measurements, without additional structure. Instead, recent methods propose to leverage non-stationary data, as well as the sparse mechanism shift assumption in order to learn disentangled representations with a causal semantic. Here, we extend the application of these methodological advances to the analysis of single-cell genomics data with genetic or chemical perturbations. More precisely, we propose a deep generative model of single-cell gene expression data for which each perturbation is treated as a stochastic intervention targeting an unknown, but sparse, subset of latent variables. We benchmark these methods on simulated single-cell data to evaluate their performance at latent units recovery, causal target identification and out-of-domain generalization. Finally, we apply those approaches to two real-world large-scale gene perturbation data sets and find that models that exploit the sparse mechanism shift hypothesis surpass contemporary methods on a transfer learning task. We implement our new model and benchmarks using the scvi-tools library, and release it as open-source software at https://github.com/Genentech/sVAE.

研究动机与目标

• 解决变分自编码器（VAEs）在单细胞基因组学中潜在变量缺乏直接生物学意义的可解释性挑战。
• 通过利用非平稳扰动数据，克服从i.i.d.数据中无法实现解耦表征恢复的理论限制。
• 开发一种深度生成模型，将每次扰动视为针对潜在变量稀疏子集的随机干预。
• 通过将潜在因子与基因调控或信号通路等生物上有意义的过程对齐，实现潜在因子的因果语义解释。
• 在真实和模拟的单细胞扰动数据集上，展示在潜在变量恢复、因果目标识别和迁移学习方面性能的提升。

提出的方法

• 提出一种稀疏变分自编码器（sVAE），将多重扰动下的单细胞基因表达数据建模为非i.i.d.干预。
• 将每次扰动建模为针对潜在变量稀疏子集的随机干预，通过结构化先验强制机制偏移的稀疏性。
• 使用以干预标签为上下文的条件VAE推理，在稀疏机制偏移假设下学习解耦表征。
• 引入缩放负二项分布噪声模型，以考虑单细胞RNA-seq计数数据中的技术与生物过度分散。
• 利用非线性ICA和因果表征学习中的理论可识别性结果，确保潜在变量对应于因果生物过程。
• 使用scvi-tools库实现该模型，并以开源形式发布于https://github.com/Genentech/sVAE。

实验结果

研究问题

• RQ1 稀疏机制偏移建模是否能够在单细胞基因组学数据中实现解耦且具有因果可解释性的表征？
• RQ2 与标准VAE及其他解耦方法相比，sVAE在扰动数据上恢复真实潜在变量的性能如何？
• RQ3 sVAE在未见干预场景下，特别是在迁移学习场景中的泛化能力如何？
• RQ4 干预的稀疏性和覆盖范围对潜在变量恢复和因果图识别性能的影响程度如何？
• RQ5 模型性能与可识别性如何依赖于扰动效应强度以及条件分布的变异性？

主要发现

• sVAE在潜在变量恢复方面显著优于基线方法（包括普通VAE和iVAE），当全部15个潜在变量均被扰动时，皮尔逊MCC达到0.88。
• 当仅部分潜在变量被靶向时，性能显著下降（例如，4个靶向变量时MCC为0.59），证实了广泛干预覆盖的理论必要性。
• 该模型在真实世界大规模基因扰动数据集中成功识别出因果目标，实现了干预到生物过程的可解释性映射。
• sVAE在迁移学习任务中实现了优越的分布外泛化能力，表现出对未见扰动的鲁棒性。
• 该方法对扰动效应强度敏感；效应过弱会导致解耦性能差，与有限样本量下的理论限制一致。
• 理论假设（如潜在变量的充分可变性和图结构覆盖）至关重要——若违反这些假设，即使模型本身设定合理，性能仍会下降。