[论文解读] Joint Structure Learning of Multiple Non-Exchangeable Networks

Chris J. Oates, Sach Mukherjee|arXiv (Cornell University)|Feb 23, 2014

Bayesian Modeling and Causal Inference参考文献 17被引用 6

一句话总结

本文提出结构学习树（SLTs），一种新颖的贝叶斯框架，用于联合学习多个非可交换网络的结构，通过根树建模网络之间的层次关系，对现有方法进行了推广。该方法利用信念传播实现高效且精确的推理，在模拟数据和真实生物数据上均表现出更高的网络估计精度，尤其在存在复杂、非可交换依赖关系（如谱系或系统发育关系）时表现更优。

ABSTRACT

Several methods have recently been developed for joint structure learning of multiple (related) graphical models or networks. These methods treat individual networks as exchangeable, such that each pair of networks are equally encouraged to have similar structures. However, in many practical applications, exchangeability in this sense may not hold, as some pairs of networks may be more closely related than others, for example due to group and sub-group structure in the data. Here we present a novel Bayesian formulation that generalises joint structure learning beyond the exchangeable case. In addition to a general framework for joint learning, we (i) provide a novel default prior over the joint structure space that requires no user input; (ii) allow for latent networks; (iii) give an efficient, exact algorithm for the case of time series data and dynamic Bayesian networks. We present empirical results on non-exchangeable populations, including a real data example from biology, where cell-line-specific networks are related according to genomic features.

研究动机与目标

• 为解决现有联合结构学习方法假设网络之间可交换性所带来的局限性，该假设在具有层次关系或特定群体关系的真实场景中常不成立。
• 开发一种通用的贝叶斯框架，通过编码群体与子群体依赖关系的根树结构，对非可交换网络关系进行建模。
• 提供一种默认的、非信息性先验，覆盖联合结构空间，无需用户指定超参数。
• 实现对观测网络和潜在网络结构的精确推理，包括具有时间序列数据的动态贝叶斯网络设置。
• 评估树结构误设下的鲁棒性，并在癌症细胞系的真实生物数据上展示性能。

提出的方法

• 提出结构学习树（SLTs）作为根树，其中每个节点代表一个网络，边编码层次关系（如群体与子群体隶属关系）。
• 构建一种层次先验，沿树边继承约束，从而在无需用户输入的情况下，实现对联合网络结构的默认、客观先验。
• 采用精确的信念传播算法，高效计算联合网络空间上的后验边际分布，适用于观测网络和潜在网络。
• 通过将线性VAR(1)过程与动态贝叶斯网络（DBNs）结合，将框架扩展至时间序列数据。
• 利用后验边际包含概率估计加权和二值邻接矩阵，性能通过AUROC、AUPR、马修斯相关系数和误分类率进行评估。
• 将方法应用于不同样本量和边密度的模拟数据，以及癌症细胞系在药物处理下的真实蛋白质组时间序列数据。

实验结果

研究问题

• RQ1 当网络具有层次关系（如进化或谱系数据）时，贝叶斯联合结构学习框架能否有效建模网络间的非可交换关系？
• RQ2 当真实网络关系为非可交换时，所提出的SLT框架相较于可交换模型表现如何，特别是在模型误设条件下？
• RQ3 对联合结构空间的默认先验在无需用户指定超参数的情况下，能在多大程度上提升估计性能？
• RQ4 信念传播算法在动态贝叶斯网络设置中，对观测和潜在网络结构的精确推理有多高效？
• RQ5 SLT框架能否在具有复杂依赖关系（如基于基因组特征关联的细胞系特异性网络）的真实生物数据中提升网络估计精度？

主要发现

• 当网络表现出层次关系时，SLT框架在估计网络结构方面显著优于可交换模型，尤其在低样本量条件下。
• 对联合结构空间的默认先验在无需用户指定超参数的情况下实现了强劲性能，展现出鲁棒性与客观性。
• 信念传播算法实现了对联合网络空间的精确推理，计算效率适合中等规模网络。
• 在模拟实验中，SLT方法在低样本量和中等边密度条件下，AUROC（最高达0.92）和AUPR（最高达0.85）均优于基线方法。
• 在来自癌症细胞系的真实蛋白质组时间序列数据上，SLT模型成功捕捉了拉帕替尼和AKTi处理下的差异性网络响应，揭示了具有生物学合理性的调控变化。
• 该方法对树结构的误设表现出鲁棒性，即使假设的层次关系与真实关系不完全匹配，仍能保持高性能。