[论文解读] DynGFN: Towards Bayesian Inference of Gene Regulatory Networks with GFlowNets

Lazar Atanackovic, Alexander Tong+4 more|arXiv (Cornell University)|Feb 8, 2023

Gene Regulatory Network AnalysisBiochemistry, Genetics and Molecular Biology被引用 3

一句话总结

DynGFN 提出了一种用于基因调控网络（GRNs）的贝叶斯结构学习框架，通过结合 RNA 速度数据，联合建模循环依赖关系与认识论不确定性。通过将 GRN 推断建模为动力系统的稀疏识别问题，并利用 GFlowNets 对循环图上的复杂后验分布进行估计，DynGFN 在合成数据和单细胞数据上均优于最先进方法，在不确定性建模方面表现更优，KL 散度和 Bayes-SHD 值更低。

ABSTRACT

One of the grand challenges of cell biology is inferring the gene regulatory network (GRN) which describes interactions between genes and their products that control gene expression and cellular function. We can treat this as a causal discovery problem but with two non-standard challenges: (1) regulatory networks are inherently cyclic so we should not model a GRN as a directed acyclic graph (DAG), and (2) observations have significant measurement noise, so for typical sample sizes there will always be a large equivalence class of graphs that are likely given the data, and we want methods that capture this uncertainty. Existing methods either focus on challenge (1), identifying cyclic structure from dynamics, or on challenge (2) learning complex Bayesian posteriors over DAGs, but not both. In this paper we leverage the fact that it is possible to estimate the "velocity" of gene expression with RNA velocity techniques to develop an approach that addresses both challenges. Because we have access to velocity information, we can treat the Bayesian structure learning problem as a problem of sparse identification of a dynamical system, capturing cyclic feedback loops through time. Since our objective is to model uncertainty over discrete structures, we leverage Generative Flow Networks (GFlowNets) to estimate the posterior distribution over the combinatorial space of possible sparse dependencies. Our results indicate that our method learns posteriors that better encapsulate the distributions of cyclic structures compared to counterpart state-of-the-art Bayesian structure learning approaches.

研究动机与目标

• 解决从噪声大、样本有限的单细胞数据中建模循环反馈回路并捕捉不确定性这一双重挑战。
• 开发一种完全可微、端到端的贝叶斯动态结构学习框架，联合估计图结构和系统参数的后验分布。
• 在实验扰动成本高昂的场景下，通过建模合理的 GRN 结构分布而非单一最优图，实现稳健的因果发现。
• 克服现有方法的局限性，这些方法要么假设无环结构（DAGs），要么无法对循环系统中的复杂不确定性进行建模。
• 在合成系统和真实单细胞 RNA-seq 数据上展示该方法的有效性，特别是在捕捉循环 GRN 的后验分布方面。

提出的方法

• DynGFN 使用 GFlowNet 对 GRN 结构的后验分布进行建模，该网络学习一种序列策略，从可能依赖关系的组合空间中采样稀疏的循环图。
• 它利用 RNA 速度数据估计基因表达速度（dx/dt），将 GRN 推断视为一个动力系统稀疏识别问题，其中漂移函数用于建模调控相互作用。
• 使用一个超网络（HyperNetwork）来建模系统参数（θ）的后验分布，条件于推断出的图结构 G，从而实现端到端可微性。
• 通过一个评分函数联合优化图结构和参数后验分布，该函数评估 G 和 θ 解释观测动态数据（x, dx）的能力。
• 该框架通过使用 GFlowNets 避免了对后验分布的严格参数假设，后者天然适用于对组合结构上的复杂离散分布进行建模。
• 该架构通过基于数据拟合（如负对数似然）的奖励信号进行强化学习训练，实现了对大规模图等价类的可扩展后验估计。

实验结果

研究问题

• RQ1 当数据具有噪声且有限时，贝叶斯结构学习框架能否有效对循环基因调控网络中的不确定性进行建模？
• RQ2 能否利用 RNA 速度数据提升 GRN 推断中循环调控结构的可识别性？
• RQ3 使用 GFlowNets 对离散、循环图结构的后验分布进行估计，是否能比现有基于 DAG 的贝叶斯方法带来更好的不确定性量化？
• RQ4 在合成数据和真实单细胞数据中，DynGFN 在捕捉 GRN 结构真实后验分布方面，与最先进基线方法相比表现如何？
• RQ5 该方法在现实生物系统中的可扩展性如何？其当前实现中的主要瓶颈是什么？

主要发现

• 在一个包含 81 种可接受图结构的 5 维合成动力系统中，ℓ-DynGFN 的 Bayes-SHD 为 3.3 ± 0.4，KL 散度为 44.98 ± 18.60，尽管结构恢复性能相似，但在不确定性建模方面显著优于 ℓ-DynBCD（Bayes-SHD: 2.6 ± 0.1，KL: 321.95 ± 3.34）。
• h-DynGFN 在所有模型中实现了最低的 KL 散度（39.82 ± 28.05）和适中的 Bayes-SHD（5.1 ± 1.2），表明其在保持良好数据拟合的同时，具有更优的后验近似能力。
• 与 h-DynDiBS 和 h-DynBCD 等基线方法相比，该方法在 AUC（0.58–0.59）方面表现更优，且 NLL 更低，表明其后验分布具有更好的泛化能力和校准性。
• 在单细胞成纤维细胞数据集中，DynGFN 更好地捕捉了基因在细胞周期时间上的相关性，表明其对潜在生物动力学的建模更优，且受噪声影响更小。
• 结果表明，与专注于 DAG 的贝叶斯基线方法相比，DynGFN 更好地封装了循环结构的真实后验分布，后者常在高不确定性下收敛至单一图。
• 尽管性能优异，DynGFN 仍面临可扩展性限制，由于图搜索空间呈指数级增长，目前仅适用于低维系统（5–20 个变量）。