[论文解读] Modeling sequences and temporal networks with dynamic community structures

Tiago P. Peixoto, Martin Rosvall|arXiv (Cornell University)|Sep 15, 2015

Opinion Dynamics and Social Influence被引用 6

一句话总结

本文提出了一种非参数贝叶斯框架，用于使用任意阶马尔可夫链与社区结构对时间序列和动态网络进行建模，从而实现无需人为设定时间尺度的数据驱动型最优记忆阶与社区划分推断。该方法通过选择最简单的能解释数据的模型来避免过拟合，在包括文本、电子邮件、移动性及社交接触数据在内的多种真实世界数据集中成功识别出有意义的动态社区结构。

ABSTRACT

In evolving complex systems such as air traffic and social organizations, collective effects emerge from their many components' dynamic interactions. While the dynamic interactions can be represented by temporal networks with nodes and links that change over time, they remain highly complex. It is therefore often necessary to use methods that extract the temporal networks' large-scale dynamic community structure. However, such methods are subject to overfitting or suffer from effects of arbitrary, a priori imposed timescales, which should instead be extracted from data. Here we simultaneously address both problems and develop a principled data-driven method that determines relevant timescales and identifies patterns of dynamics that take place on networks as well as shape the networks themselves. We base our method on an arbitrary-order Markov chain model with community structure, and develop a nonparametric Bayesian inference framework that identifies the simplest such model that can explain temporal interaction data.

研究动机与目标

• 解决现有方法在建模动态网络与序列时因强加人为时间尺度或存在过拟合问题而带来的局限性。
• 开发一个统一框架，同时对网络上的动态过程与网络结构的演化进行建模。
• 实现合理的模型选择，识别出最简化的、符合数据的具有社区结构的马尔可夫链。
• 直接从数据中提取相关时间尺度与动态社区模式，避免因噪声导致的虚假结构。
• 支持基于过去观测结果对未来网络动态进行预测，采用简洁的模型。

提出的方法

• 基于任意阶马尔可夫链与社区结构构建生成模型，以表示事件的时间序列。
• 使用非参数贝叶斯推断框架（具体为狄利克雷过程混合模型）同时推断社区数量与马尔可夫阶数。
• 应用随机块模型将状态或边分组为社区，使模型能够从数据中学习社区结构。
• 对社区数量与记忆阶施加非参数先验，以避免过拟合并实现自动模型选择。
• 使用变分贝叶斯近似方法高效计算模型参数与超参数的后验分布。
• 利用与节点数量呈对数线性复杂度的计算方式，实现对大规模网络的可扩展性。

实验结果

研究问题

• RQ1 对于给定的时间序列，其最优记忆阶是多少？能否在无先验假设的情况下直接从数据中推断出该阶数？
• RQ2 如何在不强加人为时间窗口或聚合层的前提下识别时间网络中的动态社区结构？
• RQ3 该模型能否区分高维数据中的真实动态模式与随机波动？
• RQ4 基于过去观测，所推断的模型在多大程度上能够预测未来的网络动态？
• RQ5 在复杂时间过程的网络建模中，引入社区结构在多大程度上提升了模型性能？

主要发现

• 该方法在合成数据中成功识别出正确的马尔可夫阶数与社区数量，且在高维设置下也未出现过拟合现象。
• 在贝多芬第五交响曲数据集中，模型推断出马尔可夫阶数为3，社区数为4，有效捕捉了和声与节奏模式。
• 在Enron电子邮件数据集中，模型检测到马尔可夫阶数为2，社区数为5，揭示了员工群体间不同的通信模式。
• 在RockYou密码列表中，模型推断出马尔可夫阶数为1，社区数为3，识别出常见的密码结构模式。
• 在所有真实世界数据集中，该方法在预测未来网络状态方面均优于静态社区检测方法与固定记忆阶模型，预测准确性更高。
• 该框架展示了良好的可扩展性，其复杂度与节点数量呈对数线性关系，使得在如APS引文与prosper.com贷款数据集等大规模网络上也能实现高效推断。