[论文解读] Probabilistic Multilayer Networks

Enrique Hernández–Lemus, Jesús Espinal‐Enríquez+1 more|arXiv (Cornell University)|Aug 23, 2018

Bayesian Modeling and Causal Inference被引用 1

一句话总结

本文提出了一种基于互信息的多层概率网络方法，用于从大规模多维数据集中推断统计依赖关系。通过应用信息论度量构建加权与非加权邻接矩阵，该方法揭示了复杂系统中的隐藏连接模式，已在癌症基因组学和美国股市数据中得到验证，为多场景系统的大数据分析提供了一种通用且计算复杂度低的框架。

ABSTRACT

Here we introduce probabilistic weighted and unweighted multilayer networks as derived from information theoretical correlation measures on large multidimensional datasets. We present the fundamentals of the formal application of probabilistic inference on problems embedded in multilayered environments, providing examples taken from the analysis of biological and social systems: cancer genomics and drug-related violence.

研究动机与目标

• 开发一种适用于大规模多维数据集的通用概率网络推断框架。
• 通过引入反映现实世界系统多维特性的多层结构，克服传统网络模型的局限性。
• 应用信息论度量以揭示统计依赖关系，且无需预先设定结构假设。
• 在包括癌症调控基因组学和金融市场动态在内的多个领域中展示该方法的实用性。
• 提供一种理论基础坚实、计算高效的分析方法，用于处理复杂、噪声大、高通量的数据。

提出的方法

• 使用互信息（MI）作为大规模数据集中随机变量之间统计依赖性的度量。
• 应用阈值化的Heaviside阶跃函数定义下限有界的邻接矩阵 A(i,j) = Θ(I(i,j) − I₀) · (1 − δij)，当互信息超过 I₀ 时形成非加权边。
• 定义加权邻接矩阵 S(i,j) = A(i,j) · I(i,j)，以保留统计依赖关系的强度。
• 将所得网络表示为对称矩阵 A 和 S，编码系统的马尔可夫随机场（MRF）结构。
• 通过建模多个数据层（如基因调控层、股市市场层）之间的相互依赖关系，将框架扩展至多层网络。
• 采用张量表示法捕捉层间与层内连接关系，支持对多网络中心性与聚类特性的分析。

实验结果

研究问题

• RQ1 如何利用互信息在无先验假设的前提下，从未知的高维、噪声数据中推断网络结构？
• RQ2 多层网络结构在揭示如癌症调控网络或金融市场等复杂系统中的隐藏依赖关系中起到何种作用？
• RQ3 概率多层网络在捕捉复杂非线性相互作用方面，相较于传统单层网络模型有何改进？
• RQ4 信息论度量在揭示生物与金融系统中的功能模块或隐藏相关性方面，其揭示能力达到何种程度？
• RQ5 能否为跨多样化科学领域的概率网络推断，构建一个统一的、通用的框架？

主要发现

• 该方法成功利用互信息识别出具有统计依赖关系的变量对，形成完整联合概率分布的马尔可夫随机场表示。
• 加权邻接矩阵 S 反映了依赖关系的强度，互信息值越高，表示功能或调控关联越强。
• 在癌症基因组学中，该方法揭示了涉及微小RNA的转录后调控相互作用，突破了传统基因表达网络的局限。
• 在美国股市中，多层网络揭示了纽约证券交易所（NYSE）、美国证券交易所（AMEX）和纳斯达克（NASDAQ）之间隐藏的相关性与非线性相互依赖关系，挑战了市场无相关性假设。
• 股票间互信息的热图（如图4）呈现出丰富的聚类模式，表明市场间存在协调行为及潜在的系统性风险传导路径。
• 该框架支持多层网络统计量的计算，如多层中心性与聚类系数，从而深化了对系统整体连通性的理解。