[论文解读] Maps of sparse Markov chains efficiently reveal community structure in network flows with memory

Christian Persson, Ludvig Bohlin+2 more|arXiv (Cornell University)|Jun 27, 2016

Complex Network Analysis Techniques参考文献 20被引用 11

一句话总结

本文提出了一种针对带记忆网络流的高效映射方法，利用稀疏马尔可夫链，通过采用变阶记忆和交叉验证的状态聚合，克服了高阶模型中的维度灾难问题。该方法在引文流中实现了82%的模块流持久性，显著高于一阶模型（59%）和Web of Science分类（44%），从而实现了多学科科学网络中精确且重叠的社区检测。

ABSTRACT

To better understand the flows of ideas or information through social and biological systems, researchers develop maps that reveal important patterns in network flows. In practice, network flow models have implied memoryless first-order Markov chains, but recently researchers have introduced higher-order Markov chain models with memory to capture patterns in multi-step pathways. Higher-order models are particularly important for effectively revealing actual, overlapping community structure, but higher-order Markov chain models suffer from the curse of dimensionality: their vast parameter spaces require exponentially increasing data to avoid overfitting and therefore make mapping inefficient already for moderate-sized systems. To overcome this problem, we introduce an efficient cross-validated mapping approach based on network flows modeled by sparse Markov chains. To illustrate our approach, we present a map of citation flows in science with research fields that overlap in multidisciplinary journals. Compared with currently used categories in science of science studies, the research fields form better units of analysis because the map more effectively captures how ideas flow through science.

研究动机与目标

• 解决用于网络流映射的固定高阶马尔可夫链模型所面临的维度灾难问题。
• 开发一种可扩展的方法，以在不需指数级更多数据的情况下捕捉网络流中的记忆效应。
• 通过实现重叠且分层嵌套的社区，改进网络流的模块化表示。
• 提供一种数据驱动的、经交叉验证的映射框架，其性能优于传统的固定阶马尔可夫链模型和现有的期刊分类体系。
• 通过在10,000种科学期刊中应用该方法，展示其在引文流中的有效性。

提出的方法

• 该方法使用稀疏马尔可夫链对具有变阶记忆的网络流进行建模，允许记忆阶数随状态而变化。
• 一种迭代状态聚合算法通过最小化熵率损失来降低模型复杂度，同时保留流动力学特性。
• 该算法通过10折交叉验证，逐步将状态聚合成模块，直至达到最优模块度。
• 最终映射基于在交叉验证下最大化模块流持久性的稀疏马尔可夫链模型构建。
• 该方法通过将每个物理节点表示为多个状态节点，对多步路径进行建模，从而实现上下文依赖的转移。
• 该方法应用于Web of Science中10,000种期刊在2007至2012年间发表的490万篇论文的引文流。

实验结果

研究问题

• RQ1 稀疏马尔可夫链是否能够高效建模网络流中的记忆效应，而不会遭受维度灾难？
• RQ2 马尔可夫链中的变阶记忆是否能提升对网络流中重叠且分层嵌套社区的检测能力？
• RQ3 经交叉验证的状态聚合是否能产生比固定阶马尔可夫链更精确的引文流模块化描述？
• RQ4 所提出方法的模块流持久性与一阶马尔可夫链及现有期刊分类相比如何？
• RQ5 在最终映射中，多学科期刊在多大程度上会出现在多个研究领域中？

主要发现

• 所提方法在引文流中实现了82%的模块流持久性，显著高于一阶马尔可夫链模型的59%持久性。
• 该方法优于Web of Science期刊分类体系，后者仅实现了44%的模块流持久性。
• 多学科期刊如PNAS、Science和Nature在多个研究领域中被准确表示，反映出其跨学科影响力。
• 该映射显示，通过PNAS在微生物学和植物科学中的引文流主要保留在这些领域内部，表明其具有上下文依赖的流动行为。
• 使用稀疏马尔可夫链实现了重叠社区结构，而传统的一阶模型则强制要求模块分配的排他性。
• 该方法在计算开销极低的情况下，实现了23个百分点的流持久性提升，表明其具有更优的数据压缩能力和模式识别性能。